女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

DALL-E和生成式AI的未來

CVer ? 來源:機器之心 ? 2023-01-30 15:47 ? 次閱讀

DALL-E 等生成式模型的「高光時刻」已經出現,作為發明者,Ramesh 表示:「我們第一次嘗試這個研究方向,是想看看能有什么作為。現在想來,恍如昨日。」

在 DALL-E 2、Stable Diffusion 和 Midjourney 出現之前,該領域僅有一篇論文,即《零樣本文本到圖像生成》(Zero-Shot Text-to-Image Generation)。

2021 年 1 月 5 日,也就是兩年前,隨著這篇論文和網站演示的發布,OpenAI 推出了 DALL-E—— 可以「根據文本說明為各種用自然語言表達的概念創建圖像」的神經網絡。而據報道,OpenAI 近日正在就「估值為 290 億美元的收購要約」進行談判。

49928b48-9f76-11ed-bfe3-dac502259ad0.png

圖源自 DALL-E。

經過訓練,Transformer 語言模型 GPT-3 的 120 億參數版本可以使用文本圖像對數據集從文本描述中生成圖像。VentureBeat 記者 Khari Johnson 在描述時說,其「旨在喚起藝術家 Salvador Dali 和機器人 WALL-E」,并附上了 DALL-E 生成的「穿著芭蕾舞裙的小白蘿卜遛狗」的插圖。

OpenAI 研究員、DALL-E 的發明者和 DALL-E 2 的聯合開發者 Aditya Ramesh 表示,自那以后,整個領域便取得了飛速的發展。鑒于過去一年生成式 AI 領域取得了飛速的發展,這算是一種很保守的說辭。隨后便是擴散模型的迅速崛起,其出現改變了去年 4 月發布的 DALL-E 2,以及它的開源對手:Diffusion 和 Midjourney 原有的格局。

Ramesh 告訴 VentureBeat:「我們第一次嘗試這個研究方向,想看看能有什么作為,現在感覺恍如昨日。我知道這項技術將會對消費者產生影響,也會幫助到并對許多不同的應用程序,但我仍然對其發展速度之快感到驚訝。」

如今,生成式模型正在逐漸發展到「圖像生成和多種模態的高光時刻」。他說:「我很高興能夠為所有這些即將出現的應用做點什么。」

與 CLIP 合作開發的原創研究

CLIP 是與 DALL-E 1 研究共同開發和公布的,它是一個基于零樣本學習的獨立模型,實際上算是 DALL-E 的秘密武器。CLIP 從互聯網上獲取了 4 億對帶有文字說明的圖像進行訓練,能夠使用自然語言進行分類基準測試并對 DALL-E 結果進行排名。

當然,很多早期跡象表明,當前即將迎來文字到圖像的進步。英屬哥倫比亞大學(University of British Columbia)的計算機科學副教授 Jeff Clune 說道:「多年來的研究顯示,這種未來近在咫尺。」2016 年,他的團隊制作出了他所說的第一批與真實圖像難以分辨的合成圖像。

他說:「我的意思是,幾年后,人們可以描述任何想要的圖像,然后由 AI 來生成它,比如特朗普面帶假笑地接受普京的賄賂。」

Air Street Capital 的合伙人 Nathan Benaich 認為,生成式 AI 自始至終都是 AI 的核心部分。他在接受 VentureBeat 采訪時表示:「值得一提的是,2014 年生成式對抗網絡(GANs)的開發和 DeepMind 2016 年的 WaveNet 等研究已經開始展示 AI 模型如何分別從頭生成新的圖像和音頻。」

盡管如此,最初的 DALL-E 論文「在當時給人留下了深刻的印象」,未來學家、作家和 AI 研究員 Matt White 補充道。他說:「雖然這不是文本到圖像合成領域的首項工作,但 OpenAI 不僅僅向 AI 研究領域推廣他們工作的方法,更是將推廣范圍擴大到公眾層面,這自然也是其頗受關注的原因所在。」

盡可能地推動 DALL-E 研究

Ramesh 說,他的初心始終是盡可能地推動這項研究。

他說:「我們覺得文本到圖像的生成很有意思,作為人類,我們能夠通過一句話來描述我們在現實生活中可能遇到的任何情況,也可以是不可能發生的幻想場景,或者是瘋狂的幻想。所以我們想看看我們訓練的模型是否能得當地從文本中生成圖像,并且和人類一樣做出推斷。」

Ramesh 還補充道,對原始 DALL-E 的主要研究影響之一是 VQ-VAE,這是一種由 DeepMind 研究人員 Aaron van den Oord 首創的技術:像語言模型所訓練的 token 一樣,將圖像也分解為 token。

他解釋說:「所以我們可以采用像 GPT 這樣的 transformer,訓練它的目的是為了預測下一個單詞,并用這些額外的圖像 token 來增強它的語言 token。這讓我們可以應用同樣的技術來生成圖像。」

他說,DALL-E 會帶給人們驚喜,因為「在語言模型中看到泛化的例子是一回事,但當在圖像生成中看到它時,它就會更加直觀且具有更深的影響力。」

DALL-E 2 向擴散模型的轉變

但最初 DALL-E 研究發表時,Ramesh 的 DALL-E 2 合著者 Alex Nichol 和 Prafulla Dhariwal 已經在研究在 GLIDE(一種新的 OpenAI 擴散模型)的修改版本中使用擴散模型。

這導致 DALL-E 2 的架構與第一次迭代的 DALL-E 完全不同。正如 Vasclav Kosar 解釋的那樣,「DALL-E 1 使用離散變分自編碼器 (dVAE)、下一個 token 預測和 CLIP 模型重新排序,而 DALL-E 2 直接使用 CLIP 嵌入,并通過類似 GLIDE 的擴散來解碼圖像。」

Ramesh 說:「將擴散模型和 DALL-E 結合起來,看似是一件自然而然的事,因為擴散模型有很多優點,其中最明顯的特點是用擴散模型能夠利落而又巧妙地修復圖像。」

他解釋道,在 DALL-E 2 中加入了在開發 GLIDE 時使用的一種特殊技術 —— 無分類器指導 —— 這大大改進了字幕的匹配度以及真實感。

「當 Alex 第一次嘗試時,沒有人想到結果會有這么大的改善。我最初只期望 DALL-E 2 能成為 DALL-E 的更新版本,但讓我驚訝的是,它已經開始讓用戶受益了。」

2022 年 4 月 6 日,當 AI 社群和普通用戶第一次看到 DALL-E 2 的圖像輸出時,他們中的大部分都驚嘆于圖像質量的差異。

「競爭激烈,喜憂參半」

Hugging Face 的首席倫理科學家 Margaret Mitchell 在電子郵件告訴 VentureBeat,2021 年 1 月發布的 DALL-E 是第一波文本到圖像研究的浪潮,這些研究建立在語言和圖像處理的基本進展之上,包括變分自動編碼器和 autoregressive transformers。DALL-E 2 發布時,「擴散是我們行內人意料之外的突破,它切實地提升了游戲質量,」她說。

她補充說,自從最初的 DALL-E 研究論文發表以來,過去兩年一直是「競爭激烈,喜憂參半」。

「對如何建立語言和圖像模型的關注是以如何最好地獲取模型的數據為代價的,」她還指出,在現代文本到圖像的進展中,個人權利和同意「幾乎被拋棄了」。目前的系統「基本上是在竊取藝術家的概念,而沒有為藝術家提供任何追索權,」她如此總結道。

DALL-E 沒有公開源代碼,這導致其他系統開發了開源的文本轉圖像選項,這在 2022 年夏天前引起了轟動。

最初的 DALL-E「很有意思,但無法使用」,Stability AI 的創始人 Emad Mostaque 說,他在 8 月發布了開源文本到圖像生成器 Stable Diffusion 的第一個迭代,并說「只有我的團隊訓練的模型可以稱作開源」。Mostaque 補充說:「我們從 2021 年夏天開始積極資助和支持它。」

展望未來,White 認為,即使不久將要迎來新一代,DALL-E 的未來依舊任重而道遠。

「DALL-E 2 在穩定性、質量和道德層面都存在問題,」,他指出,這些問題是相互交織且互相影響的,像「一只棕色的狗穿著紅襯衫」這樣的 prompt 可能會產生屬性顛倒的結果(即紅狗穿棕色襯衫,紅狗穿紅色襯衫或完全不同的顏色)。此外,他補充道,DALL-E 2 在面部和身體構造、圖像文本生成的一致性方面仍然存在困難,「特別是當遇到較長的單詞時。」

DALL-E 和生成式 AI 的未來

Ramesh 希望更多的人了解到 DALL-E 2 的技術工作原理,這樣可以消除很多誤解。

他說:「在大眾眼里。這個模型的工作方式是:它在某處有個圖像數據庫,它生成圖像的方式是將這些圖像片段剪切粘貼在一起,從而創造出新的東西。但實際上,它的工作方式更接近于人類,當模型接受圖像訓練時,它會學習所有這些概念的抽象表征。」

他還解釋道:「在我們從頭開始生成圖像時,我們不再使用訓練數據。擴散模型從他們試圖生成物的模糊近似開始,經過多重步驟,逐步添加細節,就像藝術家總是從一個粗略的草圖開始發揮,隨著時間的推移再慢慢充實他的作品。」

他說,助藝術家創作一臂之力也是 DALL-E 自始至終的目標。

「過去,我們熱切地希望這些模型能成為藝術家的得力助手 —— 成為可以讓許多日常任務變得更簡單、更有效率的得力工具,就像 Codex 是程序員的副駕駛一樣。據我們所知,一些藝術家認為在創建想法原型時,DALL-E 非常有用,因為他們通常會花幾個小時甚至幾天的時間來探索某個概念,隨后才決定采用它,而 DALL-E 可以將這個過程縮短至幾個小時甚至是幾分鐘。」

Ramesh 說,他希望越來越多的人能夠在學習和探索過程中逐漸學會應用 DALL-E 和其他生成式 AI 工具。

「通過(OpenAI 的)ChatGPT,我認為我們已經極大地擴展了這些 AI 工具的功能,并讓很多人接觸到它。希望隨著時間的推移,那些想運用我們的技術做事的人可以很毫不費力地通過我們的網站獲取它,并找到方法來使用其構建出他們心中所想。」

審核編輯 :李倩

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 圖像
    +關注

    關注

    2

    文章

    1092

    瀏覽量

    40997
  • 數據庫
    +關注

    關注

    7

    文章

    3900

    瀏覽量

    65728
  • 生成式AI
    +關注

    關注

    0

    文章

    524

    瀏覽量

    701

原文標題:DALL-E發明者:我對其兩年來產生的影響感到驚訝

文章出處:【微信號:CVer,微信公眾號:CVer】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    樹莓派 也能搞 AI 藝術?樹莓派遇上DALL-E,開啟你的 AI 藝術創作之旅!

    本教程將向你展示如何使用DALL-EAPI從你的RaspberryPi上生成隨機的AI藝術。近年來,人工智能(AI)是一個取得了巨大飛躍的領域,這在很大程度上要歸功于OpenAI等團隊
    的頭像 發表于 03-25 09:29 ?181次閱讀
    樹莓派 也能搞 <b class='flag-5'>AI</b> 藝術?樹莓派遇上<b class='flag-5'>DALL-E</b>,開啟你的 <b class='flag-5'>AI</b> 藝術創作之旅!

    聚云科技獲亞馬遜云科技生成AI能力認證

    近日,云管理服務提供商聚云科技成功獲得亞馬遜云科技生成AI能力認證。此次認證標志著聚云科技在利用亞馬遜云科技全托管的生成
    的頭像 發表于 02-19 10:33 ?358次閱讀

    聚云科技榮獲亞馬遜云科技生成AI能力認證

    助力企業加速生成AI應用落地 北京2025年2月14日?/美通社/ -- 云管理服務提供商聚云科技獲得亞馬遜云科技生成
    的頭像 發表于 02-14 16:07 ?323次閱讀

    聚云科技榮獲亞馬遜云科技生成AI能力認證 助力企業加速生成AI應用落地

    北京 ——2025 年 2 月 14 日 云管理服務提供商聚云科技獲得亞馬遜云科技生成AI能力認證,利用亞馬遜云科技全托管的生成
    發表于 02-14 13:41 ?124次閱讀

    生成AI推理技術、市場與未來

    (reasoning)能力,這一轉變將極大推動上層應用的發展。 紅杉資本近期指出,在可預見的未來,邏輯推理和推理時計算將是一個重要主題,并開啟生成AI的下一階段。新一輪競賽已然開始。
    的頭像 發表于 01-20 11:16 ?733次閱讀
    <b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>推理技術、市場與<b class='flag-5'>未來</b>

    生成AI工具好用嗎

    當下,生成AI工具正以其強大的內容生成能力,為用戶帶來了前所未有的便捷與創新。那么,生成
    的頭像 發表于 01-17 09:54 ?364次閱讀

    OpenAI推出AI視頻生成模型Sora

    近日,備受期待的OpenAI再次推出了其創新之作——AI視頻生成模型Sora。這一新品的發布,無疑為AI技術注入了新的活力。 據悉,Sora與OpenAI旗下的AI工具
    的頭像 發表于 12-12 09:40 ?599次閱讀

    IDC生成AI白皮書亮點速遞

    在數字化浪潮中,生成 AI 正成為推動創新和變革的關鍵力量。本文將分享由 IDC 發布的《技術革新引領未來——生成
    的頭像 發表于 11-04 10:12 ?615次閱讀

    生成AI工具作用

    生成AI工具是指那些能夠自動生成文本、圖像、音頻、視頻等多種類型數據的人工智能技術。在此,petacloud.ai小編為您整理
    的頭像 發表于 10-28 11:19 ?613次閱讀

    STAR AI進軍美股科技星智能領跑生成AI賽道

    正在改變著人類的生存方式,基于生成AI的工具導致了內容生產的爆炸性增長。 據Bloomberg Intelligence報告預測,預計到2035年,全球生成
    的頭像 發表于 08-22 08:56 ?538次閱讀
    STAR <b class='flag-5'>AI</b>進軍美股科技星智能領跑<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>賽道

    如何用C++創建簡單的生成AI模型

    生成AI(Generative AI)是一種人工智能技術,它通過機器學習模型和深度學習技術,從大量歷史數據中學習對象的特征和規律,從而能夠生成
    的頭像 發表于 07-05 17:53 ?1544次閱讀

    生成AI與傳統AI的主要區別

    隨著人工智能技術的飛速發展,生成AI(Generative AI)逐漸嶄露頭角,并與傳統AI(也稱為“規則驅動的
    的頭像 發表于 07-05 17:35 ?5027次閱讀

    生成AI的基本原理和應用領域

    生成人工智能(Generative Artificial Intelligence,簡稱Generative AI)是一種利用機器學習算法和深度學習技術,通過模擬人類的創造性思維過程,生成
    的頭像 發表于 07-04 11:50 ?2975次閱讀

    商湯發布《2024生成AI賦能教育未來》白皮書

    生成AI正在各個行業中展現出巨大的應用前景。在關系國計民生的教育行業,生成AI能夠催生哪些創
    的頭像 發表于 06-29 09:48 ?1293次閱讀

    原來這才是【生成AI】!!

    隨著ChatGPT、文心一言等AI產品的火爆,生成AI已經成為了大家茶余飯后熱議的話題。可是,為什么要在AI前面加上“
    的頭像 發表于 06-05 08:04 ?290次閱讀
    原來這才是【<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>】!!