女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

2018人工智能技術總結與2019趨勢預測報告

mK5P_AItists ? 來源:cg ? 2018-12-23 09:12 ? 次閱讀

2018,仍是AI領域激動人心的一年。這一年成為NLP研究的分水嶺,各種突破接連不斷;CV領域同樣精彩紛呈,與四年前相比GAN生成的假臉逼真到讓人不敢相信;新工具、新框架的出現,也讓這個領域的明天特別讓人期待。

近日,Analytics Vidhya發布了一份2018人工智能技術總結與2019趨勢預測報告,原文作者PRANAV DAR。量子位在保留這個報告架構的基礎上,對內容進行了重新編輯和補充。

這份報告總結和梳理了全年主要AI技術領域的重大進展,同時也給出了相關的資源地址,以便大家更好的使用、查詢。

報告共涉及了五個主要部分:

自然語言處理(NLP)

計算機視覺

工具和庫

強化學習

AI道德

下面,我們就逐一來盤點和展望,嘿喂狗~

自然語言處理(NLP)

2018年在NLP歷史上的特殊地位,已經毋庸置疑。

這份報告認為,這一年正是NLP的分水嶺。2018年里,NLP領域的突破接連不斷:ULMFiT、ELMo、最近大熱的BERT……

遷移學習成了NLP進展的重要推動力。從一個預訓練模型開始,不斷去適應新的數據,帶來了無盡的潛力,甚至有“NLP領域的ImageNet時代已經到來”一說。

■ ULMFiT

這個縮寫,代表“通用語言模型的微調”,出自ACL 2018論文:Universal Language Model Fine-tuning for Text Classification。

正是這篇論文,打響了今年NLP遷移學習狂歡的第一槍。

論文兩名作者一是Fast.ai創始人Jeremy Howard,在遷移學習上經驗豐富;一是自然語言處理方向的博士生Sebastian Ruder,他的NLP博客幾乎所有同行都在讀。

兩個人的專長綜合起來,就有了ULMFiT。想要搞定一項NLP任務,不再需要從0開始訓練模型,拿來ULMFiT,用少量數據微調一下,它就可以在新任務上實現更好的性能。

他們的方法,在六項文本分類任務上超越了之前最先進的模型。

詳細的說明可以讀他們的論文:

https://arxiv.org/abs/1801.06146

Fast.ai網站上放出了訓練腳本、模型等:

http://nlp.fast.ai/category/classification.html

■ ELMo

這個名字,當然不是指《芝麻街》里那個角色,而是“語言模型的詞嵌入”,出自艾倫人工智能研究院和華盛頓大學的論文Deep contextualized word representations,NLP頂會NAACL HLT 2018的優秀論文之一。

ELMo用語言模型(language model)來獲取詞嵌入,同時也把詞語所處句、段的語境考慮進來。

這種語境化的詞語表示,能夠體現一個詞在語法語義用法上的復雜特征,也能體現它在不同語境下如何變化。

當然,ELMo也在試驗中展示出了強大功效。把ELMo用到已有的NLP模型上,能夠帶來各種任務上的性能提升。比如在機器問答數據集SQuAD上,用ELMo能讓此前最厲害的模型成績在提高4.7個百分點。

這里有ELMo的更多介紹和資源:

https://allennlp.org/elmo

■ BERT

說BERT是2018年最火的NLP模型,一點也不為過,它甚至被稱為NLP新時代的開端。

它由Google推出,全稱是BidirectionalEncoderRepresentations fromTransformers,意思是來自Transformer的雙向編碼器表示,也是一種預訓練語言表示的方法。

從性能上來看,沒有哪個模型能與BERT一戰。它在11項NLP任務上都取得了最頂尖成績,到現在,SQuAD 2.0前10名只有一個不是BERT變體:

如果你還沒有讀過BERT的論文,真的應該在2018年結束前補完這一課:

https://arxiv.org/abs/1810.04805

另外,Google官方開源了訓練代碼和預訓練模型:

https://github.com/google-research/bert

如果你是PyTorch黨,也不怕。這里還有官方推薦的PyTorch重實現和轉換腳本:

https://github.com/huggingface/pytorch-pretrained-BERT

■ PyText

BERT之后,NLP圈在2018年還能收獲什么驚喜?答案是,一款新工具。

就在上周末,Facebook開源了自家工程師們一直在用的NLP建模框架PyText。這個框架,每天要為Facebook旗下各種應用處理超過10億次NLP任務,是一個工業級的工具包。

(Facebook開源新NLP框架:簡化部署流程,大規模應用也OK)

PyText基于PyTorch,能夠加速從研究到應用的進度,從模型的研究到完整實施只需要幾天時間。框架里還包含了一些預訓練模型,可以直接拿來處理文本分類、序列標注等任務。

想試試?開源地址在此:

https://github.com/facebookresearch/pytext

■Duplex

如果前面這些研究對你來說都太抽象的話,Duplex則是NLP進展的最生動例證。

名字有點陌生?不過這個產品你一定聽說過,它就是Google在2018年I/O開發者大會上展示的“打電話AI”。

它能主動打電話給美發店、餐館預約服務,全程流暢交流,簡直以假亂真。Google董事長John Hennessy后來稱之為“非凡的突破”,還說:“在預約領域,這個AI已經通過了圖靈測試。”

Duplex在多輪對話中表現出的理解能力、合成語音的自然程度,都是NLP目前水平的體現。

如果你還沒看過它的視頻……

■2019年展望

NLP在2019年會怎么樣?我們借用一下ULMFiT作者Sebastian Ruder的展望:

預訓練語言模型嵌入將無處不在:不用預訓練模型,從頭開始訓練達到頂尖水平的模型,將十分罕見。

能編碼專業信息的預訓練表示將會出現,這是語言模型嵌入的一種補充。到時候,我們就能根據任務需要,把不同類型的預訓練表示結合起來。

在多語言應用、跨語言模型上,將有更多研究。特別是在跨語言詞嵌入的基礎上,深度預訓練跨語言表示將會出現。

計算機視覺

今年,無論是圖像還是視頻方向都有大量新研究問世,有三大研究曾在CV圈掀起了集體波瀾。

■ BigGAN

今年9月,當搭載BigGAN的雙盲評審中的ICLR 2019論文現身,行家們就沸騰了:簡直看不出這是GAN自己生成的。

在計算機圖像研究史上,BigGAN的效果比前人進步了一大截。比如在ImageNet上進行128×128分辨率的訓練后,它的Inception Score(IS)得分166.3,是之前最佳得分52.52分3倍。

除了搞定128×128小圖之外,BigGAN還能直接在256×256、512×512的ImageNet數據上訓練,生成更讓人信服的樣本。

在論文中研究人員揭秘,BigGAN的驚人效果背后,真的付出了金錢的代價,最多要用512個TPU訓練,費用可達11萬美元,合人民幣76萬元。

不止是模型參數多,訓練規模也是有GAN以來最大的。它的參數是前人的2-4倍,批次大小是前人的8倍。

相關地址

研究論文:https://openreview.net/pdf?id=B1xsqj09Fm

■ Fast.ai 18分鐘訓練整個ImageNet

在完整的ImageNet上訓練一個模型需要多久?各大公司不斷下血本刷新著記錄。

不過,也有不那么燒計算資源的平民版。

今年8月,在線深度學習課程Fast.ai的創始人Jeremy Howard和自己的學生,用租來的亞馬遜AWS的云計算資源,18分鐘在ImageNet上將圖像分類模型訓練到了93%的準確率。

前前后后,Fast.ai團隊只用了16個AWS云實例,每個實例搭載8塊英偉達V100 GPU,結果比Google用TPU Pod在斯坦福DAWNBench測試上達到的速度還要快40%。

這樣拔群的成績,成本價只需要40美元,Fast.ai在博客中將其稱作人人可實現。

相關地址:

Fast.ai博客介紹:https://www.fast.ai/2018/08/10/fastai-diu-imagenet/

■vid2vid技術

今年8月,英偉達和MIT的研究團隊高出一個超逼真高清視頻生成AI。

只要一幅動態的語義地圖,就可獲得和真實世界幾乎一模一樣的視頻。換句話說,只要把你心中的場景勾勒出來,無需實拍,電影級的視頻就可以自動P出來:

除了街景,人臉也可生成:

這背后的vid2vid技術,是一種在生成對抗性學習框架下的新方法:精心設計的生成器和鑒別器架構,再加上時空對抗目標。

這種方法可以在分割蒙版、素描草圖、人體姿勢等多種輸入格式上,實現高分辨率、逼真、時間相干的視頻效果。

好消息,vid2vid現已被英偉達開源。

相關地址

研究論文:https://tcwang0509.github.io/vid2vid/paper_vid2vid.pdf

GitHub地址https://github.com/NVIDIA/vid2vid

■2019趨勢展望

Analytics Vidhya預計,明年在計算機視覺領域,對現有方法的改進和增強的研究可能多于創造新方法。

在美國,政府對無人機的限令可能會稍微“松綁”,開放程度可能增加。而今年大火的自監督學習明年可能會應用到更多研究中。

Analytics Vidhya對視覺領域也有一些期待,目前來看,在CVPR和ICML等國際頂會上公布最新研究成果,在工業界的應用情況還不樂觀。他希望在2019年,能看到更多的研究在實際場景中落地。

Analytics Vidhya預計,視覺問答(Visual Question Answering,VQA)技術和視覺對話系統可能會在各種實際應用中首次亮相。

工具和框架

哪種工具最好?哪個框架代表了未來?這都是一個個能永遠爭論下去的話題。

沒有異議的是,不管爭辯的結果是什么,我們都需要掌握和了解最新的工具,否則就有可能被行業所拋棄。

今年,機器學習領域的工具和框架仍在快速的發展,下面就是這方面的總結和展望。

■ PyTorch 1.0

根據10月GitHub發布的2018年度報告,PyTorch在增長最快的開源項目排行上,名列第二。也是唯一入圍的深度學習框架。

作為谷歌TensorFlow最大的“勁敵”,PyTorch其實是一個新兵,2017年1月19日才正式發布。2018年5月,PyTorch和Caffe2整合,成為新一代PyTorch 1.0,競爭力更進一步。

相較而言,PyTorch速度快而且非常靈活,在GitHub上有越來越多的開碼都采用了PyTorch框架。可以預見,明年PyTorch會更加普及。

至于PyTorch和TensorFlow怎么選擇?在我們之前發過的一篇報道里,不少大佬站PyTorch。

實際上,兩個框架越來越像。前Google Brain深度學習研究員,Denny Britz認為,大多數情況下,選擇哪一個深度學習框架,其實影響沒那么大。

相關地址

PyTorch官網:https://pytorch.org/

■ AutoML

很多人將AutoML稱為深度學習的新方式,認為它改變了整個系統。有了AutoML,我們就不再需要設計復雜的深度學習網絡。

今年1月17日,谷歌推出Cloud AutoML服務,把自家的AutoML技術通過云平臺對外發布,即便你不懂機器學習,也能訓練出一個定制化的機器學習模型。

不過AutoML并不是谷歌的專利。過去幾年,很多公司都在涉足這個領域,比方國外有RapidMiner、KNIME、DataRobot和H2O.ai等等。

除了這些公司的產品,還有一個開源庫要介紹給大家:

Auto Keras!

這是一個用于執行AutoML任務的開源庫,意在讓更多人即便沒有人工智能的專家背景,也能搞定機器學習這件事。

這個庫的作者是美國德州農工大學(Texas A&M University)助理教授胡俠和他的兩名博士生:金海峰、Qingquan Song。Auto Keras直擊谷歌AutoML的三大缺陷:

第一,還得付錢。

第二,因為在云上,還得配置Docker容器和Kubernetes。

第三,服務商(Google)保證不了你數據安全和隱私。

相關地址

官網:https://autokeras.com/

GitHub:https://github.com/jhfjhfj1/autokeras

■ TensorFlow.js

今年3月底的TensorFlow開發者會峰會2018上,TensorFlow.js正式發布。

這是一個面向JavaScript開發者的機器學習框架,可以完全在瀏覽器中定義和訓練模型,也能導入離線訓練的TensorFlow和Keras模型進行預測,還對WebGL實現無縫支持。

在瀏覽器中使用TensorFlow.js可以擴展更多的應用場景,包括展開交互式的機器學習、所有數據都保存在客戶端的情況等。

實際上,這個新發布的TensorFlow.js,就是基于之前的deeplearn.js,只不過被整合進TensorFlow之中。

谷歌還給了幾個TensorFlow.js的應用案例。比如借用你的攝像頭,來玩經典游戲:吃豆人(Pac-Man)。

相關地址

官網:https://js.tensorflow.org/

■2019趨勢展望

在工具這個主題中,最受關注的就是AutoML。因為這是一個真正會改變游戲規則的核心技術。在此,引用H2O.ai的大神Marios Michailidis(KazAnova)對明年AutoML領域的展望。

智能可視化、提供洞見等方式,幫助描述和理解數據

為數據集發現、構建、提取更好的特征

快速構建更強大、更智能的預測模型

通過機器學習可解釋性,彌補黑盒建模帶來的差距

推動這些模型的產生

強化學習

強化學習還有很長的路要走。

除了偶爾成為頭條新聞之外,目前強化學習領域還缺乏真正的突破。強化學習的研究非常依賴數學,而且還沒有形成真正的行業應用。

希望明年可以看到更多RL的實際用例。現在我每個月都會特別關注一下強化學習的進展,以期看到未來可能會有什么大事發生。

■ OpenAI的強化學習入門教程

全無機器學習基礎的人類,現在也可以迅速上手強化學習。

11月初,OpenAI發布了強化學習 (RL) 入門教程:Spinning Up。從一套重要概念,到一系列關鍵算法實現代碼,再到熱身練習,每一步都以清晰簡明為上,全程站在初學者視角。

團隊表示,目前還沒有一套比較通用的強化學習教材,RL領域只有一小撮人進得去。這樣的狀態要改變啊,因為強化學習真的很有用。

相關地址

教程入口:https://spinningup.openai.com/en/latest/index.html

GitHub傳送門:https://github.com/openai/spinningup

■ 谷歌的強化學習新框架「多巴胺」

Dopamine(多巴胺),這是谷歌今年8月發布的強化學習開源框架,基于TensorFlow。

新框架在設計時就秉承著清晰簡潔的理念,所以代碼相對緊湊,大約是15個Python文件,基于Arcade Learning Environment (ALE)基準,整合了DQN、C51、 Rainbow agent精簡版和ICML 2018上的Implicit Quantile Networks。

為了讓研究人員能快速比較自己的想法和已有的方法,該框架提供了DQN、C51、 Rainbow agent精簡版和Implicit Quantile Networks的玩ALE基準下的那60個雅達利游戲的完整訓練數據。

另外,還有一組Dopamine的教學colab。

相關地址

Dopamine谷歌博客:https://ai.googleblog.com/2018/08/introducing-new-framework-for-flexible.html

Dopamine github下載:https://github.com/google/dopamine/tree/master/docs#downloads

colabs:https://github.com/google/dopamine/blob/master/dopamine/colab/README.md

游戲訓練可視化網頁:https://google.github.io/dopamine/baselines/plots.html

■2019趨勢展望

DataHack Summit 2018發言人、ArxivInsights創始人Xander Steenbrugge,也是一名強化學習專家,以下是來自他的總結和展望。

1、由于輔助學習任務越來越多,增加了稀疏的外在獎勵,樣本的復雜性將繼續提高。在非常稀疏的獎勵環境中,效果非常好。

2、正因如此,直接在物理世界訓練將越來越可行,替代當前大多先在虛擬環境中訓練的方法。我預測2019年,會出現第一個只由深度學習訓練,沒有人工參與而且表現出色的機器人demo出現。

3、在DeepMind把AlphaGo的故事延續到生物領域之后(AlphaFold),我相信強化學習將逐步在學術領域外創造實際的商業價值。例如新藥探索、電子芯片架構優化、車輛等等……

4、強化學習會有一個明顯的轉變,以前在訓練數據上測試智能體的行為將不再視為“允許”。泛化指標將成為核心,就像監督學習一樣。

AI道德

AI被濫用事故在2018年被頻頻爆出:Facebook AI助特朗普當選美國總統、Goggle與美國軍方聯手開發AI武器、微軟為移民和海關執法局(ICE)提供云計算和人臉識別服務……

每一次事故都會重新掀起一波對AI道德準則的討論高潮,一些硅谷科技公司也再次期間制定了企業AI準則。

Analytics Vidhya認為,AI道德現在還是一個灰色地帶,目前還沒有所有人可以遵循的框架,2019年將有更多企業和政府制定相關條例。

AI道德規范的制定,現在才剛剛起步。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 人工智能
    +關注

    關注

    1804

    文章

    48737

    瀏覽量

    246664
  • nlp
    nlp
    +關注

    關注

    1

    文章

    490

    瀏覽量

    22492

原文標題:一文看盡2018全年AI技術大突破

文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    斯坦福大學發布《2025 年人工智能指數報告

    2025年4月,斯坦福2025HAI報告重磅發布。由李飛飛聯合領導的斯坦福大學以人為本人工智能研究所(StanfordHAI)發布了《2025年人工智能指數報告
    的頭像 發表于 04-11 11:08 ?536次閱讀
    斯坦福大學發布《2025 年<b class='flag-5'>人工智能</b>指數<b class='flag-5'>報告</b>》

    2025年人工智能會發生哪些變化

    2025年人工智能會發生哪些革命性的變化?斯坦福大學以人為中心的人工智能研究所的領先專家表示,2025 年人工智能的一個主要趨勢是協作人工智能
    的頭像 發表于 01-21 11:28 ?904次閱讀

    Arm預測2025年人工智能發展趨勢

    的洞察。我們將分三期內容為你詳細列舉從人工智能 (AI)到芯片設計,再到不同技術市場的主要趨勢,帶你深入了解 2025 年的產業發展方向!
    的頭像 發表于 01-20 09:49 ?675次閱讀

    嵌入式和人工智能究竟是什么關系?

    了重要作用。在未來,隨著嵌入式系統和人工智能技術的不斷進步,我們可以預見更多創新應用的出現,為社會發展和生活品質的提升帶來更多可能性。
    發表于 11-14 16:39

    未來智慧建筑:人工智能技術的無限可能

    隨著科技的不斷發展,人工智能技術正逐漸滲透到各行各業,其中,在智能建筑領域的應用備受矚目。智能建筑結合了傳統建筑與先進科技的完美融合,在提高建筑效率、節能環保、增強安全性等方面發揮著重要作用。古河云
    的頭像 發表于 10-17 14:07 ?513次閱讀

    《AI for Science:人工智能驅動科學創新》第6章AI與能源科學讀后感

    探討了人工智能如何通過技術創新推動能源科學的進步,為未來的可持續發展提供了強大的支持。 首先,書中通過深入淺出的語言,介紹了人工智能在能源領域的基本概念和技術原理。這使得我對
    發表于 10-14 09:27

    AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感

    研究的進程。從蛋白質結構預測到基因測序與編輯,再到藥物研發,人工智能技術在生命科學的各個層面都發揮著重要作用。特別是像AlphaFold這樣的工具,成功解決了困擾生物學界半個多世紀的蛋白質折疊問題,將
    發表于 10-14 09:21

    《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得

    ,無疑為讀者鋪設了一條探索人工智能(AI)如何深刻影響并推動科學創新的道路。在閱讀這一章后,我深刻感受到了人工智能技術在科學領域的廣泛應用潛力以及其帶來的革命性變化,以下是我個人的學習心得: 1.
    發表于 10-14 09:12

    risc-v在人工智能圖像處理應用前景分析

    RISC-V和Arm內核及其定制的機器學習和浮點運算單元,用于處理復雜的人工智能圖像處理任務。 四、未來發展趨勢 隨著人工智能技術的不斷發展和普及,RISC-V在人工智能圖像處理領域的
    發表于 09-28 11:00

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅動科學創新

    每個交叉領域,本書通過案例進行了詳盡的介紹,梳理了產業地圖,并給出了相關政策啟示。 《AI for Science:人工智能驅動科學創新》適合所有關注人工智能技術和產業發展的讀者閱讀,特別適合材料科學
    發表于 09-09 13:54

    智能機械臂人臉識別特效丨國產Cortex-A55人工智能實驗箱案例分享

    智能機械臂人臉識別特效丨國產Cortex-A55人工智能實驗箱案例分享
    的頭像 發表于 08-30 13:03 ?765次閱讀
    <b class='flag-5'>智能</b>機械臂人臉識別特效丨國產Cortex-A55<b class='flag-5'>人工智能</b>實驗箱案例分享

    報名開啟!深圳(國際)通用人工智能大會將啟幕,國內外大咖齊聚話AI

    呈現、產業展覽、技術交流、學術論壇于一體的世界級人工智能合作交流平臺。本次大會暨博覽會由工業和信息化部政府采購中心、廣東省工商聯、前海合作區管理局、深圳市信局等單位指導,深圳市人工智能
    發表于 08-22 15:00

    FPGA在人工智能中的應用有哪些?

    定制化的硬件設計,提高了硬件的靈活性和適應性。 綜上所述,FPGA在人工智能領域的應用前景廣闊,不僅可以用于深度學習的加速和云計算的加速,還可以針對特定應用場景進行定制化計算,為人工智能技術的發展提供有力支持。
    發表于 07-29 17:05

    人工智能技術在集成電路中的應用

    隨著科技的飛速發展,人工智能(AI)與集成電路技術已成為推動現代電子工業進步的重要力量。兩者相輔相成,共同推動著電子產品的智能化、高效化和可靠化。本文將從多個角度詳細探討人工智能技術
    的頭像 發表于 07-15 09:43 ?6510次閱讀

    大模型技術趨勢總結

    本篇文章旨在希望大家對大模型的本質、技術和發展趨勢有簡單的了解。由于近期大模型技術發展很快,這里對大模型的技術、本質及未來趨勢進行
    的頭像 發表于 06-21 17:38 ?941次閱讀
    大模型<b class='flag-5'>技術</b>及<b class='flag-5'>趨勢</b><b class='flag-5'>總結</b>