女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大模型在端側(cè)迅速落地,面臨哪些挑戰(zhàn)

Carol Li ? 來源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-05-15 01:16 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)大模型技術(shù)正在快速發(fā)展,并在不同領(lǐng)域取得顯著進(jìn)展。如在設(shè)計(jì)領(lǐng)域,近日消息,騰訊混元大模型文生圖已經(jīng)深度應(yīng)用在B端和C端,此外,騰訊混元大模型還可以做圖生視頻、視頻生視頻等,為設(shè)計(jì)領(lǐng)域帶來了更多可能性。

大模型技術(shù)正在向更多行業(yè)滲透。例如,在金融、消費(fèi)、互聯(lián)網(wǎng)等領(lǐng)域,大模型技術(shù)已經(jīng)開始被應(yīng)用于數(shù)據(jù)分析、客戶服務(wù)、產(chǎn)品推薦等方面。通過利用大模型技術(shù),企業(yè)可以更加精準(zhǔn)地了解客戶需求,提高服務(wù)質(zhì)量和效率。

大模型在設(shè)計(jì)領(lǐng)域進(jìn)展迅速

“大模型加速產(chǎn)業(yè)進(jìn)入全新智能時(shí)代,正成為推動(dòng)科技創(chuàng)新、產(chǎn)業(yè)升級、生產(chǎn)力躍遷的重要驅(qū)動(dòng)力量。”騰訊設(shè)計(jì)杰出專家、騰訊混元產(chǎn)品負(fù)責(zé)人陳妍妍近日談到。

在她看來,從大模型的能力來看,各行業(yè)對大模型有著三大共性需求,包括內(nèi)容生成與創(chuàng)意設(shè)計(jì)、信息提煉與專業(yè)輔助、任務(wù)調(diào)度與智能交互及情感陪伴等。她認(rèn)為,設(shè)計(jì)行業(yè)的應(yīng)用就是大模型落地的一個(gè)代表性的領(lǐng)域。從文生圖、文生視頻到文生3D,多模態(tài)探索是騰訊混元大模型等國產(chǎn)大模型的重要發(fā)展方向。

大模型在設(shè)計(jì)領(lǐng)域的應(yīng)用進(jìn)展十分迅速。騰訊的混元大模型在設(shè)計(jì)領(lǐng)域就展示了其強(qiáng)大的能力。在文生圖方面,騰訊的混元大模型尤其注重本土化,能夠在很多應(yīng)用場景中利用中國的歷史和文化元素,這在國際市場上具有獨(dú)特的優(yōu)勢。同時(shí),騰訊的混元大模型已經(jīng)深度應(yīng)用于B端和C端,如創(chuàng)意廣告、人像風(fēng)格化等領(lǐng)域。

在文生視頻方面,騰訊的混元大模型已經(jīng)能夠?qū)崿F(xiàn)將視頻拉長的功能,從之前的4秒擴(kuò)展到現(xiàn)在的16秒,這展示了其在視頻生成和處理方面的能力。此外,該模型還可以進(jìn)行圖生視頻、視頻生視頻等應(yīng)用,為設(shè)計(jì)領(lǐng)域提供了更多的可能性。

雖然文生3D在現(xiàn)階段的應(yīng)用還不夠廣泛,但騰訊已經(jīng)提前進(jìn)行了一些研究。這種技術(shù)生成的模型具有可編輯性,可以導(dǎo)入到3D編輯工具中進(jìn)行重新調(diào)整,這為未來的3D人物應(yīng)用提供了基礎(chǔ)。

從技術(shù)升級與開放方面來看,騰訊的混元大模型不斷進(jìn)行技術(shù)升級,目前已擴(kuò)展至萬億級參數(shù)規(guī)模。為了推動(dòng)技術(shù)的發(fā)展和應(yīng)用,騰訊計(jì)劃將文生圖能力進(jìn)行開源,這將有助于降低技術(shù)門檻,促進(jìn)更多的開發(fā)者和藝術(shù)家利用大模型進(jìn)行設(shè)計(jì)創(chuàng)作。

大模型落地端側(cè)成布局重要方向

過去一年多時(shí)間,大模型技術(shù)快速發(fā)展,其在端側(cè)的應(yīng)用落地也進(jìn)展迅速。如在智能語音助手方面,大模型可以集成到智能語音助手中,使其能夠更好地理解和處理自然語言。這使得用戶可以通過語音與設(shè)備進(jìn)行更自然和便捷的交互。智能語音助手已經(jīng)成為手機(jī)智能家居設(shè)備等端側(cè)設(shè)備的標(biāo)配功能,為用戶提供了更加智能化的服務(wù)體驗(yàn)。

在圖像識別與處理當(dāng)面,端側(cè)設(shè)備可以利用大模型進(jìn)行圖像識別和處理。例如,在移動(dòng)設(shè)備上進(jìn)行實(shí)時(shí)的人臉識別、物體識別或圖像增強(qiáng)等操作。這種技術(shù)已經(jīng)廣泛應(yīng)用于手機(jī)相機(jī)、安防監(jiān)控、自動(dòng)駕駛等領(lǐng)域,為用戶提供了更加便捷和高效的圖像處理體驗(yàn)。

基于大模型的個(gè)性化推薦系統(tǒng)也可以在端側(cè)應(yīng)用中實(shí)現(xiàn)。通過分析用戶的興趣和行為,系統(tǒng)可以為用戶推薦符合其喜好的內(nèi)容、商品或服務(wù)。這種技術(shù)在電商、社交、新聞等領(lǐng)域得到了廣泛應(yīng)用,提高了用戶滿意度和轉(zhuǎn)化率。

大模型還可以用于實(shí)時(shí)語音翻譯或文本翻譯,使得用戶能夠在不同語言之間進(jìn)行無縫交流。這種技術(shù)在跨國交流、在線教育、旅游等領(lǐng)域具有廣泛應(yīng)用前景,為用戶提供了更加便捷的溝通方式。

在硬件和計(jì)算技術(shù)方面,為了支持大模型在端側(cè)的應(yīng)用,出現(xiàn)了許多新的解決方案。例如,使用邊緣計(jì)算技術(shù)將計(jì)算任務(wù)從中心服務(wù)器下沉到設(shè)備的邊緣,使設(shè)備能夠更快速地處理數(shù)據(jù)和計(jì)算任務(wù)。這有助于減輕端側(cè)設(shè)備的計(jì)算負(fù)擔(dān)和能源消耗,提高響應(yīng)速度和用戶體驗(yàn)。

此外,還有一些研究工作致力于優(yōu)化大模型的訓(xùn)練和推理過程。例如,使用增量學(xué)習(xí)、遷移學(xué)習(xí)等技術(shù)對大模型進(jìn)行微調(diào),使其更適合特定任務(wù)和場景。這些技術(shù)能夠降低模型的復(fù)雜度和參數(shù)數(shù)量,提高模型的精度和效率,從而更好地適應(yīng)端側(cè)設(shè)備的性能限制。

當(dāng)然,大模型在端側(cè)的應(yīng)用也面臨一些挑戰(zhàn),如在性能和精度平衡方面,端側(cè)設(shè)備通常具有有限的計(jì)算資源和存儲空間,無法直接運(yùn)行大模型。因此,需要對大模型進(jìn)行壓縮、剪枝、量化等技術(shù)處理,以減小模型的大小和計(jì)算復(fù)雜度,使其適應(yīng)端側(cè)設(shè)備的性能要求。然而,這些技術(shù)處理可能會降低大模型的性能和精度。如何在保持模型精度的同時(shí)降低其復(fù)雜度和大小,是端側(cè)應(yīng)用面臨的一個(gè)重要問題。

還有,端側(cè)設(shè)備的電池容量有限,長時(shí)間的模型推理會消耗大量的能源,縮短設(shè)備的續(xù)航時(shí)間。如何在保證模型性能的同時(shí)降低能源消耗,是另一個(gè)需要解決的問題。

另外,與云端模型不同,端側(cè)模型的部署和升級更為復(fù)雜。一旦模型出現(xiàn)問題,不像云端那樣可以通過簡單的部署和代碼更新來解決。端側(cè)模型的維護(hù)和升級成本相對較高,需要更多的技術(shù)支持和人力投入。

寫在最后

如何推進(jìn)大模型落地應(yīng)用已經(jīng)成為當(dāng)下重點(diǎn)關(guān)注的話題,如今,無論是終端公司、算法公司,還是芯片公司等都在積極為大模型在終端側(cè)的落地應(yīng)用而努力。

從上文可以看到,雖然仍然存在一些挑戰(zhàn),不過不難看出,大模型在斷側(cè)的應(yīng)用前景十分廣闊,相信隨著技術(shù)的不斷發(fā)展和應(yīng)用場景的不斷拓展,大模型將在端側(cè)應(yīng)用中發(fā)揮越來越重要的作用,為人們帶來更加智能化、便捷化和個(gè)性化的服務(wù)。





聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 算法
    +關(guān)注

    關(guān)注

    23

    文章

    4699

    瀏覽量

    94747
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3029

    瀏覽量

    3830
收藏 人收藏

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    德賽西威側(cè)模型重塑智能座艙體驗(yàn)

    智能汽車產(chǎn)業(yè)發(fā)展正從規(guī)模擴(kuò)張向質(zhì)量躍升轉(zhuǎn)變,其中大模型驅(qū)動(dòng)的智能化升級將成為產(chǎn)業(yè)突破的核心引擎。日前召開的2025上海車展國際汽車關(guān)鍵技術(shù)論壇上,德賽西威技術(shù)中心人工智能實(shí)驗(yàn)室專家張書赫博士以《
    的頭像 發(fā)表于 05-15 09:13 ?971次閱讀

    德賽西威與面壁智能發(fā)布側(cè)模型語音交互方案

    日前,全球領(lǐng)先的移動(dòng)出行科技公司德賽西威與側(cè)模型技術(shù)領(lǐng)軍企業(yè)面壁智能共同發(fā)布業(yè)界首個(gè)基于高通座艙平臺(SA8255P,簡稱8255)的側(cè)
    的頭像 發(fā)表于 05-14 17:40 ?437次閱讀

    側(cè) AI 芯片:終端智能落地的核心引擎

    電子發(fā)燒友網(wǎng)報(bào)道(文 / 李彎彎)側(cè) AI 芯片,是專門為諸如智能手機(jī)、IoT 設(shè)備、自動(dòng)駕駛汽車等終端設(shè)備上,高效運(yùn)行人工智能算法而設(shè)計(jì)的處理器。通過硬件級優(yōu)化,它們能夠?qū)崿F(xiàn)低功耗、高實(shí)時(shí)性
    的頭像 發(fā)表于 04-14 02:11 ?2135次閱讀

    首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓側(cè)AI模型接入得心應(yīng)手

    ,聯(lián)發(fā)科帶來了全面升級的天璣AI開發(fā)套件2.0,模型庫規(guī)模、架構(gòu)開放程度、前沿側(cè)AI技術(shù)支持和側(cè)
    發(fā)表于 04-13 19:52

    AI大模型側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端側(cè)AI大模型解決方案,激活場景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI大模型的應(yīng)用正從云端向側(cè)加速滲透。 作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,移遠(yuǎn)通信憑借深厚的技術(shù)積累與前瞻性的戰(zhàn)略布局,
    發(fā)表于 03-27 11:26 ?187次閱讀
    AI大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端<b class='flag-5'>側(cè)</b>AI大<b class='flag-5'>模型</b>解決方案,激活場景智能新范式

    AI大模型側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端側(cè)AI大模型解決方案,激活場景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI大模型的應(yīng)用正從云端向側(cè)加速滲透。作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,移遠(yuǎn)通信憑借深厚的技術(shù)積累與前瞻性的戰(zhàn)略布局,
    的頭像 發(fā)表于 03-26 19:05 ?357次閱讀
    AI大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端<b class='flag-5'>側(cè)</b>AI大<b class='flag-5'>模型</b>解決方案,激活場景智能新范式

    移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek模型,以領(lǐng)先的工程能力加速側(cè)AI落地

    近日,國產(chǎn)大模型DeepSeek憑借其“開源開放、高效推理、側(cè)友好”的核心優(yōu)勢,迅速風(fēng)靡全球。移遠(yuǎn)通信基于邊緣計(jì)算模組SG885G,已成功實(shí)現(xiàn)DeepSeek
    發(fā)表于 02-13 11:32 ?193次閱讀
    移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek<b class='flag-5'>模型</b>,以領(lǐng)先的工程能力加速<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI<b class='flag-5'>落地</b>

    移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek模型,以領(lǐng)先的工程能力加速側(cè)AI落地

    近日,國產(chǎn)大模型DeepSeek憑借其“開源開放、高效推理、側(cè)友好”的核心優(yōu)勢,迅速風(fēng)靡全球。移遠(yuǎn)通信基于邊緣計(jì)算模組SG885G,已成功實(shí)現(xiàn)DeepSeek
    的頭像 發(fā)表于 02-12 19:03 ?394次閱讀
    移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek<b class='flag-5'>模型</b>,以領(lǐng)先的工程能力加速<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI<b class='flag-5'>落地</b>

    廣和通開啟側(cè)AI新時(shí)代

    AI發(fā)展正酣,隨著終端芯片算力越來越高、側(cè)模型能力越來越強(qiáng)、實(shí)時(shí)響應(yīng)及隱私保護(hù)的側(cè)應(yīng)用需求增加,
    的頭像 發(fā)表于 12-12 10:35 ?698次閱讀

    訊飛星火側(cè)模型發(fā)布

    參數(shù)量小、內(nèi)存占比小的側(cè)模型,正成為“兵家必爭之地”。
    的頭像 發(fā)表于 12-04 16:07 ?1241次閱讀

    智譜推出四個(gè)全新側(cè)模型 攜英特爾按下AI普及加速鍵

    隨著AI的發(fā)展,側(cè)AI模型越來越受到廣大客戶及廠商的關(guān)注,業(yè)界領(lǐng)先的大模型公司智譜于近日推出了四個(gè)全新的
    的頭像 發(fā)表于 12-02 17:13 ?506次閱讀
    智譜推出四個(gè)全新<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>模型</b> 攜英特爾按下AI普及加速鍵

    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)側(cè)AI規(guī)模化拓展

    將成為和系統(tǒng)同樣重要的存在,如果說電路是連接身體的“血管”,那么AI就將成為終端的智慧“大腦”。 ?加速演進(jìn),大模型加速走向側(cè) 從手機(jī)移動(dòng)開始,
    的頭像 發(fā)表于 11-25 16:45 ?674次閱讀
    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI規(guī)模化拓展

    側(cè)AI浪潮已來!炬芯科技發(fā)布新一代側(cè)AI音頻芯片,能效比和AI算力大幅度提升

    側(cè)AI音頻芯片。 ? 2028 年中小型模型側(cè)AI市場迅速增長,技術(shù)上有三大
    的頭像 發(fā)表于 11-06 09:11 ?3709次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI浪潮已來!炬芯科技發(fā)布新一代<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI音頻芯片,能效比和AI算力大幅度提升

    云天勵(lì)飛加速推動(dòng)大模型行業(yè)落地

    陳寧博士受邀發(fā)表主題演講,首次展示云天勵(lì)飛邊緣AI的戰(zhàn)略全貌。 ? 大模型落地的多重挑戰(zhàn) 邊緣AI提供解法? 今年WAIC上,“大模型+行業(yè)”的應(yīng)用
    的頭像 發(fā)表于 07-08 17:16 ?866次閱讀

    基于AX650N/AX630C部署側(cè)大語言模型Qwen2

    本文將分享如何將最新的側(cè)大語言模型部署到超高性價(jià)比SoC上,向業(yè)界對側(cè)模型部署的開發(fā)者提供
    的頭像 發(fā)表于 07-06 17:43 ?4420次閱讀
    基于AX650N/AX630C部署<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大語言<b class='flag-5'>模型</b>Qwen2