女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

谷歌Gemini自曝用文心一言訓練,字節(jié)被OpenAI封號,大模型互薅羊毛是常態(tài)?

Felix分析 ? 來源:電子發(fā)燒友網 ? 作者:吳子鵬 ? 2023-12-20 09:03 ? 次閱讀

電子發(fā)燒友網報道(文/吳子鵬)近兩天,原本就火熱的人工智能大模型再度被澆上了一桶油,話題熱度更勝從前。不過,這一次大家探討的并不是大模型前景和算力這些,而是大模型之間互薅羊毛的問題。根據微博知名博主@闌夕爆料,對谷歌Gemini進行測試時,如果用中文詢問Gemini的身份,其回答竟然是百度文心一言。


更讓人大跌眼鏡的是,測試人員可以使用“小愛同學”“小度”等提示詞喚醒Gemini。并且,Gemini還能夠告訴測試人員,自己是如何獲取到百度的訓練數據的。

wKgaomWCPZSARWi_AAqz1hoQeXg429.png
網傳對話場景

wKgZomWCPZyAdfAvAAdFcaCzsrM909.png
網傳對話場景


不過,此則消息應該是很快就引起了谷歌技術人員的關注,在消息曝光不久后,Gemini應對上述提示詞和問題的方式就發(fā)生了改變。通過“小愛同學”“小度”等提示詞無法再喚醒Gemini,且對于相關問題的闡述也發(fā)生了變化,顯然谷歌技術人員很快修復了一些bug。

谷歌Gemini飽受質疑

當地時間12月6日,谷歌宣布推出“最大、最強、最通用”的新大型語言模型Gemini,我們對此也進行了專門的報道。在發(fā)布會上谷歌聲稱,在32項廣泛使用的基準測試中,Gemini Ultra獲得了30個SOTA(State of the art,特指領先水平的大模型)。這也就意味著,Gemini 1.0版本在文本、代碼、音頻、圖像和視頻處理能力方面,以及推理、數學、代碼等方面都吊打GPT-4。

同時,在發(fā)布會上谷歌還展示了Gemini相關的能力。比如,Gemini可以非常高效地從數十萬份文件中獲取對科學家有用的數據,并創(chuàng)建數據集;Gemini可以在世界上最受歡迎的編程語言(如PythonJavaC++和Go)中理解、解釋和生成高質量的代碼。

不過,谷歌是通過視頻展示的Gemini的相關能力,而不是通過現(xiàn)場實操。于是乎,就在谷歌發(fā)布會的次日,有視頻制作人員質疑稱,谷歌的演示視頻并不是實錄,而是剪輯的。隨后,谷歌在博客文章中解釋了多模態(tài)交互過程,并提到了視頻演示中的猜拳,谷歌承認,不同于視頻中對于猜拳手勢的快速反應,只有在向Gemini同時展示這三個手勢并提示其這是游戲時,Gemini才會得出猜拳游戲的結論。

wKgaomWCPayAPXQiAAQ_VvMV5QM780.png
圖源:谷歌博文


因此,現(xiàn)在很多人都認為谷歌夸大了Gemini的能力,只有使用靜態(tài)圖片和多段提示詞拼湊,Gemini才能夠顯示出多模態(tài)的能力,這和谷歌宣稱的實時多模態(tài)反應明顯是不相符的。

大模型之間互薅羊毛

除了性能質疑之外,此次事件則揭露了大模型發(fā)展另一個規(guī)則——互薅羊毛。實際上,在Gemini自曝是百度文心一言之前,國內字節(jié)跳動就發(fā)生了相關問題。

近日,有外媒報道稱,字節(jié)跳動在使用OpenAI技術開發(fā)自己的大語言模型,違反了OpenAI服務條款,導致賬戶被暫停。對此,字節(jié)跳動相關負責人向記者回應稱:今年年初,當技術團隊剛開始進行大模型的初期探索時,有部分工程師將GPT的API服務應用于較小模型的實驗性項目研究中。該模型僅為測試,沒有計劃上線,也從未對外使用。4月公司引入GPT API調用規(guī)范檢查后,這種做法已經停止。字節(jié)跳動稱,后續(xù)會嚴格遵守OpenAI的使用協(xié)議。

從Gemini調整之后的回復來看,其在訓練過程中確實使用了百度文心一言的訓練數據,這其實也無可厚非。百度文心一言在中文理解及相關的多模態(tài)生成能力方面確實處于領先的位置,那么背后的原因定然是因為百度掌握著質量相對更好的中文訓練數據集,因此其他大模型如果想要在中文對話方面取得進展,使用文心一言的訓練數據確實是最高效的方式。

另外,除了字節(jié)跳動,此前谷歌也被質疑使用OpenAI數據來訓練Bard,最終谷歌的回應是Bard沒有使用ShareGPT或是ChatGPT的任何數據來進行訓練。另外,國內也有很多公司被質疑是采用OpenAI數據來完善自己的大模型。不過,這種行為大都見不得光,因此都被否認了。

為什么其他大模型頻傳借用OpenAI數據來訓練呢,重要原因在于GPT-4性能領先一個重要的原因就是數據集質量更高。根據semianalysis發(fā)布的《GPT-4 Architecture, Infrastructure, Training Dataset, Costs, Vision, MoE》文章,GPT-4是一個使用1.8萬億巨量參數訓練的模型框架,而GPT-3只有約1750億個參數,另外GPT-4擁有16個專家模型,每個MLP專家大約有1110億個參數。這就是為什么在展示Gemini Ultra的MMLU訓練時,谷歌將“CoT@32”進行小字注釋,代表Gemini Ultra的MMLU測試使用了思維鏈提示技巧,嘗試了32次并從中選擇最好結果。與之對比,GPT-4無提示詞技巧給5個示例。就這樣,GPT-4的成績?yōu)?6.4%,依然高于Gemini Ultra的83.7%。

另外,OpenAI用13萬億的token訓出了GPT-4。因為沒有高質量的token,這個數據集還包含了許多個epoch。

綜上所述,雖然GPT-4的訓練數據規(guī)模沒有官方說明,但是semianalysis文章可信度很高,這個規(guī)模比Gemini Ultra宣稱的萬億似乎更強,也不怪大家都想用GPT調優(yōu)自己的模型。

當然,每一個模型都有自己擅長的地方,尤其是那些垂直的行業(yè)模型,在行業(yè)數據方面肯定是優(yōu)于一般多模態(tài)大模型的,因此被薅羊毛的概率也很大,但是這大都不會被公開。

大模型數據集背后的產業(yè)鏈

為了讓GPT-4具有領先的性能,OpenAI的研發(fā)團隊在模型優(yōu)化、數據選擇和硬件投入等方面做了大量工作。相信谷歌的Gemini Ultra和百度文心一言等大模型也是如此。對于大模型來說,預訓練數據集是一個非常關鍵的元素,很大程度上決定了大模型最終的性能水平。

在這個大背景下,隨著大模型產業(yè)發(fā)展,訓練數據也逐漸成為一種產業(yè)。比如國內的云測數據,云測創(chuàng)立于2011年,是一家以人工智能技術驅動的企業(yè)服務平臺,為全球超過百萬的企業(yè)及開發(fā)者提供云測試服務、AI訓練數據服務、安全服務。該公司的云測數據入選“北京市人工智能行業(yè)賦能典型案例(2023)”,在垂直大模型訓練數據服務方面很有造詣。

再比如,海天瑞聲作為國內領先基礎數據服務商,是國內首家且是目前唯一一家A股上市的人工智能訓練數據服務企業(yè),為阿里巴巴、Meta、騰訊、百度、字節(jié)跳動等公司提供數據服務。

北京郵電大學科學技術研究院副院長曾雪云教授此前在受訪時表示,“互聯(lián)網上生成的這些數據,它是非結構化的數據,也是非標準化的數據。這樣的數據就是一種原始的、比較雜亂的、沒有規(guī)范的數據,它就需要在計算前進行顆粒度上的清洗,所以高質量數據通常都有從非結構化到結構化這樣的一個加工過程。”

“現(xiàn)在從對數據科學的研究、國家對數據的治理,到學術界對數據的研究、產業(yè)界對數據的利用都是一個藍海,都是一個剛開始的狀態(tài)。”曾雪云教授提到。

當然不僅國內關注到這一塊的產業(yè)價值,作為頭部企業(yè),OpenAI希望與機構合作建立新的人工智能訓練數據集。OpenAI為此創(chuàng)立了“數據伙伴關系”(Data Partnerships)計劃,該計劃旨在與第三方機構合作,建立用于人工智能模型訓練的公共和私有數據集。OpenAI 在一篇博文中表示,數據合作伙伴關系旨在“讓更多組織能夠幫助引導人工智能的未來”,并“從更有用的模型中獲益”。

結語

人工智能大模型其實是大數據時代的典型產物,那么也就無法脫離對大數據的依賴。大模型的火爆讓高質量訓練數據成為高價值、緊俏的資源,而這些數據往往掌握在頭部企業(yè)手里,這就是為什么大模型企業(yè)之間互相會薅羊毛。不過,相較于互聯(lián)網海量的數據,目前科技巨頭的訓練數據集還只是九牛一毛,如何從海量互聯(lián)網數據提取有價值的訓練數據集,已經逐漸成為一個產業(yè)鏈。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 谷歌
    +關注

    關注

    27

    文章

    6223

    瀏覽量

    107566
  • 字節(jié)跳動

    關注

    0

    文章

    345

    瀏覽量

    9357
  • OpenAI
    +關注

    關注

    9

    文章

    1202

    瀏覽量

    8650
  • 文心一言
    +關注

    關注

    0

    文章

    130

    瀏覽量

    1722
  • 大模型
    +關注

    關注

    2

    文章

    3033

    瀏覽量

    3837
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    deepseek和文一言兩者有什么區(qū)別?哪個跟合適您使用呢?

    (DeepSeek)公司開發(fā),該公司專注于開發(fā)低成本、高性能的AI模型,致力于通過技術創(chuàng)新推動人工智能技術的普惠化。DeepSeek可能基于獨特的技術架構和算法,如混合專家(MoE)架構和多頭潛在注意力(MLA)機制。 ◆
    的頭像 發(fā)表于 02-23 09:37 ?2121次閱讀

    百度下模型正式開源

    隨著模型的迭代升級和成本不斷下降,一言將于4月1日0時起全面免費,所有PC端和APP端
    的頭像 發(fā)表于 02-17 13:44 ?448次閱讀

    百度模型4月1日起全面免費開放

    列最新的模型功能。 百度表示,模型的此次升級不僅帶來了更加豐富的功能,還致力于提升用戶體驗。與此同時,百度還透露,
    的頭像 發(fā)表于 02-14 09:19 ?430次閱讀

    百度宣布一言將全面免費

    隨著模型的迭代升級和成本不斷下降,一言將于4月1日零時起,全面免費,所有PC端和APP
    的頭像 發(fā)表于 02-13 10:46 ?349次閱讀

    谷歌 Gemini 2.0 Flash 系列 AI 模型上新

    谷歌旗下 AI 大模型 Gemini 系列全面上新,正式版 Gemini 2.0 Flash、Gemini 2.0 Flash-Lite 以
    的頭像 發(fā)表于 02-07 15:07 ?641次閱讀

    機械革命無界X系列輕薄本將預裝一言

    提供了多樣化的選擇。機械革命將為無界X系列輕薄本預裝百度一言,為用戶帶來更加智能、便捷的使用體驗。用戶可以通過語音或文字與筆記本進行交互,獲取所需的信息,服務增強使用體驗以及推動AI普及。
    的頭像 發(fā)表于 01-20 17:26 ?658次閱讀

    AI智能眼鏡定制_AI眼鏡硬件主板國產展銳W517方案

    AI眼鏡是款高度集成的智能設備,內部包含了芯片、存儲、麥克風、聲學組件、攝像頭、電池及傳感器等多種硬件。它承載了多個先進的人工智能大模型,包括谷歌Gemini、百度的
    的頭像 發(fā)表于 01-06 20:07 ?1084次閱讀
    AI智能眼鏡定制_AI眼鏡硬件主板國產展銳W517方案

    說清楚什么是AI大模型

    生成能力強,部分版本支持多模態(tài)輸入(如圖像理解) 一言 百度 針對中文優(yōu)化,適合國內應用場景 LLa
    的頭像 發(fā)表于 01-02 09:53 ?1400次閱讀
    <b class='flag-5'>一</b><b class='flag-5'>文</b>說清楚什么是AI大<b class='flag-5'>模型</b>

    谷歌發(fā)布Gemini 2.0 AI模型

    谷歌近日正式推出了新代AI模型——Gemini 2.0。此次更新引入了名為“深度研究”的新特性,旨在為用戶提供更加全面和深入的復雜主題探索與報告撰寫輔助。
    的頭像 發(fā)表于 12-12 10:13 ?589次閱讀

    一言登頂中國生成式AI使用率榜首

    人工智能產品的用戶規(guī)模已達到2.3億人,占整體人口的16.4%。這數據表明,生成式人工智能產品在網民中已經形成了相當規(guī)模的用戶群體,并且未來仍有顯著的增長空間。 在激烈的市場競爭中,百度
    的頭像 發(fā)表于 12-04 14:03 ?736次閱讀

    谷歌計劃12月發(fā)布Gemini 2.0模型

    近日,有消息稱谷歌計劃在12月發(fā)布其下代人工智能模型——Gemini 2.0。這消息引發(fā)了業(yè)界的廣泛關注,因為
    的頭像 發(fā)表于 10-29 11:02 ?1064次閱讀

    百度一言APP升級為

    百度宣布其文一言APP正式升級為,標志著百度在智能搜索領域邁出了重要步。
    的頭像 發(fā)表于 09-04 16:06 ?885次閱讀

    【附實操視頻】聆思CSK6大模型開發(fā)板接入國內主流大模型(星火大模型一言、豆包、kimi、智譜glm、通義千問)

    接入一言、通義千問、豆包、智譜glm、kimi等國內的大模型,但由于各家接口和數據格式不樣,調試驗證會浪費很多時間。因此本篇以聆思CS
    發(fā)表于 08-22 10:12

    智能硬件接入主流大模型做語音交互(附文一言、豆包、kimi、智譜glm、通義千問示例)

    接入一言、通義千問、豆包、智譜glm、kimi等國內的大模型,這個是必須可以的。但由于各家接口和數據格式不樣,有些朋友直接參考chat
    發(fā)表于 08-21 19:13

    百度模型4.0 Turbo,正式發(fā)布 用戶規(guī)模已達3億

    的最新數據,并正式發(fā)布模型4.0 Turbo、飛槳框架3.0等最新技術,披露飛槳生態(tài)最新成果。 ?01?
    的頭像 發(fā)表于 06-29 10:06 ?1194次閱讀