商業(yè)概覽:
OpenAI是一個人工智能研究實驗室,由OpenAI LP及其上級組織非營利組織OpenAI Inc.組成。該公司是技術(shù)巨頭DeepMind的競爭對手,在人工智能(AI)領(lǐng)域進行研究,以共同促進并以有益于整個人類的方式開發(fā)友好的AI。該組織由埃隆·馬斯克(Elon Musk),薩姆·奧特曼(Sam Altman)等人于2015年年底在舊金山成立,他們共同認(rèn)捐了10億美元。馬斯克于2018年2月從董事會辭職,但仍是捐助者。2019年,OpenAI LP從微軟獲得了10億美元的投資。2020年6月,OpenAI宣布了GPT-3,這是一種針對來自互聯(lián)網(wǎng)的數(shù)萬億個單詞訓(xùn)練的語言模型。它還宣布了一個關(guān)聯(lián)的API,簡稱為“ API”,將成為其首個商業(yè)產(chǎn)品的核心。GPT-3旨在以自然語言回答問題,但也可以在各種語言之間進行翻譯,并且可以連貫地生成即興文本。
自動點唱機:
自動點唱機是一種神經(jīng)網(wǎng)絡(luò),可以產(chǎn)生包括基本唱歌在內(nèi)的音樂,作為各種類型和藝術(shù)風(fēng)格的原始音頻。他們將發(fā)布模型權(quán)重和代碼,以及用于探索生成的樣本的工具。自動音樂生成可追溯到半個多世紀(jì)。一種突出的方法是以鋼琴卷的形式象征性地產(chǎn)生音樂,該音樂指定要演奏的每個音符的時機,音高,速度和樂器。這導(dǎo)致了令人印象深刻的結(jié)果,例如制作巴赫合唱,使用多種樂器的和弦音樂以及時長的音樂作品。
但是符號生成器有局限性,它們無法捕獲人的聲音或音樂必不可少的許多更細微的音色,動態(tài)性和表現(xiàn)力。另一種方法是將音樂直接建模為原始音頻。由于音序很長,因此在音頻級別上生成音樂非常具有挑戰(zhàn)性。17以CD質(zhì)量(44 kHz,16位)播放一首典型的4分鐘歌曲需要超過1000萬步。為了進行比較,GPT-2有1,000個時間步長,而OpenAI Five每場比賽花費了數(shù)萬個時間步長。因此,要學(xué)習(xí)音樂的高級語義,模型將必須處理極長距離的依賴關(guān)系。
MuseNet:
MuseNet是一個深度神經(jīng)網(wǎng)絡(luò),可以用10種不同的樂器生成4分鐘的音樂作品,并且可以將鄉(xiāng)村音樂,莫扎特音樂和甲殼蟲音樂的風(fēng)格進行組合。MuseNet并未根據(jù)他們對音樂的理解進行明確編程,而是通過學(xué)習(xí)預(yù)測數(shù)十萬個MIDI文件中的下一個標(biāo)記來發(fā)現(xiàn)和諧,節(jié)奏和風(fēng)格的模式。MuseNet使用與GPT-2相同的通用無監(jiān)督技術(shù),GPT-2是一種大型變壓器模型,經(jīng)過訓(xùn)練可以預(yù)測序列中的下一個標(biāo)記(無論是音頻還是文本)。MuseNet使用Sparse Transformer的重新計算和優(yōu)化的內(nèi)核來訓(xùn)練具有24個關(guān)注頭的72層網(wǎng)絡(luò)-充分關(guān)注4096個令牌的上下文。如此長的語境可能是它能夠記住片段中長期結(jié)構(gòu)的原因之一。
其使命:
OpenAI的使命是確保人工智能(AGI)惠及全人類,人工智能(AGI)表示高度自主的系統(tǒng),在大多數(shù)具有經(jīng)濟價值的工作中,它們要勝過人類。該公司將嘗試直接建立安全有益的AGI,但如果他們的工作幫助其他人實現(xiàn)了這一目標(biāo),也將認(rèn)為他們的使命已經(jīng)實現(xiàn)。
-
人工智能
+關(guān)注
關(guān)注
1806文章
49011瀏覽量
249359 -
OpenAI
+關(guān)注
關(guān)注
9文章
1207瀏覽量
8908
發(fā)布評論請先 登錄
官網(wǎng)下載的stm32cubemx無法連接互聯(lián)網(wǎng),WiFi有一條斜杠,怎么解決?
小白學(xué)大模型:訓(xùn)練大語言模型的深度指南

一文解析工業(yè)互聯(lián)網(wǎng)
騰訊公布大語言模型訓(xùn)練新專利
一文讀懂物聯(lián)網(wǎng)和互聯(lián)網(wǎng)的區(qū)別 工業(yè)深度扒

評論