MediaTek運(yùn)用Meta Llama 2大語言模型，賦能終端設(shè)備生成式AI應(yīng)用

2023 年 8 月 24 日 – MediaTek今日宣布利用Meta新一代開源大語言模型（LLM）Llama 2 以及MediaTek先進(jìn)的AI 處理器（APU）和完整的AI開發(fā)平臺(tái)（NeuroPilot），建立完整的終端側(cè)AI計(jì)算生態(tài)，加速智能手機(jī)、物聯(lián)網(wǎng)、汽車、智能家居和其他邊緣設(shè)備的AI應(yīng)用開發(fā)，為終端設(shè)備提供更安全、可靠和差異化的使用體驗(yàn)。預(yù)計(jì)年末采用 MediaTek 新一代天璣旗艦移動(dòng)芯片的智能手機(jī)支持由Llama 2模型開發(fā)的AI應(yīng)用，可為用戶帶來振奮人心的生成式AI應(yīng)用體驗(yàn)。

MediaTek 資深副總經(jīng)理暨無線通信事業(yè)部總經(jīng)理徐敬全博士表示：“生成式AI的日益普及是數(shù)字化轉(zhuǎn)型的重要趨勢(shì)之一，我們的愿景是為L(zhǎng)lama 2的開發(fā)者和終端用戶提供工具，帶來更多令人興奮的AI創(chuàng)新機(jī)遇和產(chǎn)品體驗(yàn)。通過與Meta的伙伴關(guān)系，MediaTek可提供更強(qiáng)大的硬件和軟件整體解決方案，為終端設(shè)備帶來遠(yuǎn)超以往的功能和體驗(yàn)。”

目前，大多數(shù)生成式AI都依賴云計(jì)算，MediaTek基于Llama 2模型成功實(shí)現(xiàn)直接在終端設(shè)備上運(yùn)行生成式AI應(yīng)用。這將為開發(fā)者和用戶提供獨(dú)特優(yōu)勢(shì)，包括無縫的使用體驗(yàn)，更強(qiáng)的用戶信息安全和可靠性，更低延遲，離線運(yùn)算的能力以及更低的運(yùn)營成本，讓每個(gè)人都能享受到生成式AI帶來的便捷與創(chuàng)新。

要在終端設(shè)備上充分釋放生成式AI的潛力，設(shè)備制造商需采用高算力、低功耗的AI處理器（APU），并通過更快、更可靠的網(wǎng)絡(luò)連接來增強(qiáng)設(shè)備的整體算力。如今，每一顆MediaTek 5G智能手機(jī)SoC均搭載AI處理器，已廣泛執(zhí)行生成式AI應(yīng)用成功案例，例如 AI 降噪（AI-NR）、AI 超級(jí)分辨率（AI-SR）以及AI運(yùn)動(dòng)補(bǔ)償（AI-MEMC）等。

MediaTek將于年末推出新一代旗艦移動(dòng)芯片，將采用針對(duì)Llama 2模型而優(yōu)化的軟件棧（NeuroPilot），與搭配支持Transformer模型做骨干網(wǎng)絡(luò)加速的升級(jí)版AI處理器（APU），可減少動(dòng)態(tài)隨機(jī)存取內(nèi)存（DRAM）的讀寫消耗和帶寬占用，進(jìn)一步強(qiáng)化大語言模型和生成式AI應(yīng)用的性能，助力開發(fā)者打造令人驚艷的AI應(yīng)用，加速終端設(shè)備AI應(yīng)用落地發(fā)展。
?
?
?

閱讀全文

AI(263628) AI(263628)
生成式AI(160) 生成式AI(160)

評(píng)論

相關(guān)推薦

MCU或MPU上生成AI算法，進(jìn)行對(duì)嵌入式設(shè)備操控

瑞薩電子的e-AI技術(shù)是在本公司生產(chǎn)的MCU或MPU上生成AI算法，運(yùn)用算法在嵌入式設(shè)備上進(jìn)行操控，從而使嵌入式設(shè)備進(jìn)行AI操控。

2018-04-28 09:40:57

8118

RISC-V 跑大模型（二）：LLaMA零基礎(chǔ)移植教程

這是RISC-V跑大模型系列的第二篇文章，主要教大家如何將LLaMA移植到RISC-V環(huán)境里。

2023-07-17 16:16:20

917

RISC-V 跑大模型（三）：LLaMA中文擴(kuò)展

這是RISC-V跑大模型系列的第三篇文章，前面我們?yōu)榇蠹医榻B了如何在RISC-V下運(yùn)行LLaMA，本篇我們將會(huì)介紹如何為LLaMA提供中文支持。

2023-07-17 17:15:47

495

英特爾一系列AI解決方案，為Llama 2大模型提供實(shí)力之選

英特爾廣泛的AI硬件組合及開放的軟件環(huán)境，為Meta發(fā)布的Llama 2模型提供了極具競(jìng)爭(zhēng)力的選擇，進(jìn)一步助力大語言模型的普及，推動(dòng)AI發(fā)展惠及各行各業(yè)。 ? 大語言模型（LLM）在生成文本、總結(jié)

2023-07-25 09:56:26

736

基于Llama2和OpenVIN打造聊天機(jī)器人

Llama 2是 Meta 發(fā)布了其最新的大型語言模型，Llama2 是基于 Transformer 的人工神經(jīng)網(wǎng)絡(luò)，以一系列單詞作為輸入，遞歸地預(yù)測(cè)下一個(gè)單詞來生成文本。

2023-08-06 11:06:30

523

聯(lián)發(fā)科年底將推出新一代旗艦SOC，加速生成式AI終端部署

電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）近日，聯(lián)發(fā)科宣布將運(yùn)用Meta最新的大型語言模型Llama 2及自家的人工智能處理單元（APU）和完整的AI開發(fā)平臺(tái)（NeuroPilot），建立完整的終端運(yùn)算生態(tài)系統(tǒng)

2023-08-29 01:19:00

1194

MediaTek發(fā)布天璣9300旗艦5G生成式AI 移動(dòng)芯片，開啟全大核計(jì)算時(shí)代

科技，在端側(cè)生成式AI、游戲、影像等方面定義旗艦新體驗(yàn)。 MediaTek 董事、總經(jīng)理陳冠州表示：“隨著全面智能化時(shí)代的到來，MediaTek憑借在邊緣計(jì)算領(lǐng)域的深厚功底和豐富經(jīng)驗(yàn)，已經(jīng)在智能終端、智能汽車、智能家居等多個(gè)領(lǐng)域?qū)崿F(xiàn)了多元化發(fā)展并取得了優(yōu)異成績(jī)。通過我們領(lǐng)先的

2023-11-07 09:14:49

731

手機(jī)AI大模型來襲，存儲(chǔ)來到16GB+512GB？

設(shè)計(jì)。在強(qiáng)大的CPU、GPU和NPU的支持下，驍龍8 Gen可以在設(shè)備端運(yùn)行生成式AI，其支持超過100億個(gè)參數(shù)的模型，比如Meta Llama2 / Baichuan，并支持

2024-01-19 09:54:07

4284

谷歌開源70億參數(shù)大語言模型，全方位超越Meta Llama-2？

電子發(fā)燒友網(wǎng)報(bào)道（文/周凱揚(yáng)）在Sora把AI生成領(lǐng)域的視線全部吸引過去的這段時(shí)間里，谷歌卻依然在竭盡全力推進(jìn)新的生成模型發(fā)展。除了上周發(fā)布的下一代Gemini 1.5外，谷歌也在近日推出了一系列

2024-02-23 00:15:00

3002

1xEV-DO移動(dòng)終端設(shè)備的測(cè)試要求和方法有哪些？

1xEV-DO移動(dòng)終端設(shè)備的測(cè)試要求有哪些？1xEV-DO移動(dòng)終端生產(chǎn)測(cè)試的常用方法有哪些？其區(qū)別是什么？cdma2000和1xEV-DO技術(shù)有什么不同？

2021-04-15 06:12:16

AI賦能“電子哨兵”推動(dòng)城市的智能化和數(shù)字化進(jìn)程（附“電子哨兵”方案）

機(jī)器人等，通過視頻采集和數(shù)據(jù)處理完成監(jiān)控和預(yù)警的作用。 AI賦能的“電子哨兵” AI賦能的 “電子哨兵”，又稱“數(shù)字哨兵”，實(shí)際上是運(yùn)用人工智能芯片和算法技術(shù)，結(jié)合測(cè)溫模塊，雙目攝像頭等實(shí)現(xiàn)的人臉識(shí)別測(cè)溫

2022-06-28 16:42:59

終端設(shè)備收不到數(shù)據(jù)，請(qǐng)問怎么解決？

終端設(shè)備剛上電的時(shí)候可以收到數(shù)據(jù)，差不多30秒后就收不到數(shù)據(jù)了；終端設(shè)置如下：/**************************************** * The following

2018-08-10 07:20:05

MIWI Pro網(wǎng)格拓?fù)溥_(dá)不到終端設(shè)備

嗨，我們正在與MIWI Pro合作，我們有一個(gè)PAN協(xié)調(diào)器和5-6個(gè)終端設(shè)備（節(jié)點(diǎn)設(shè)備）。它工作在星形拓?fù)渲小Ｎ覀儥z查了PAN協(xié)調(diào)器的代碼以及終端設(shè)備。我們?cè)赑AN協(xié)調(diào)器代碼（ConfigApp.h

2019-07-29 16:34:04

MLU220-M.2邊緣端智能加速卡支持相關(guān)資料介紹

。可以輕松實(shí)現(xiàn)終端設(shè)備和邊緣段設(shè)備的AI賦能方案。MLU220-M.2加速卡用于離線模型的部署，離線模型在MLU220上運(yùn)行，不依賴AI框架，只需要利用CNRT庫，即可實(shí)現(xiàn)高效的AI推理運(yùn)算。如果需要

2022-08-08 17:37:55

SampleLight例子終端設(shè)備epDesc拿不到值的原因？

大家好：我用的協(xié)議棧版本是Z-Stack Home 1.2.1，在使用SampleLight例子進(jìn)行簡(jiǎn)單的開關(guān)燈實(shí)驗(yàn)室遇到如下問題：1.協(xié)調(diào)器組網(wǎng)成功，信息發(fā)送成功。2，終端設(shè)備接收到信息，但是在

2020-04-24 09:23:50

zigbee怎么理解終端設(shè)備向父設(shè)備報(bào)心跳

zigbee有一個(gè)問題一直不是很理解，就是終端設(shè)備向父設(shè)備報(bào)心跳的問題。所謂的報(bào)心跳，是不是就是指的NwkPollReq()這個(gè)維持鏈路的函數(shù)呢？ DPOLL_Rate這個(gè)參數(shù)是不是就是報(bào)心跳的參數(shù)呢？在網(wǎng)上找了好多資料都找不到

2016-03-31 15:21:57

【MediaTek X20開發(fā)板申請(qǐng)】智能電視盒子和家庭網(wǎng)絡(luò)終端

本帖最后由 deeplythinking 于 2016-12-29 19:11 編輯項(xiàng)目名稱：智能電視盒子和家庭網(wǎng)絡(luò)終端試用計(jì)劃：個(gè)人技能概要：曾經(jīng)在Mediatek工作過4年半，對(duì)其產(chǎn)品

2016-12-29 17:03:52

【OK210申請(qǐng)】手持終端設(shè)備

申請(qǐng)理由：由于項(xiàng)目需求，需要制作手持終端設(shè)備，本項(xiàng)目屬于科研項(xiàng)目。分為前期與后期兩個(gè)階段，前期是制作與實(shí)驗(yàn)儀器。后期需要商業(yè)化。項(xiàng)目描述：申請(qǐng)?jiān)撻_發(fā)板的目的是開發(fā)手持終端設(shè)備。需要實(shí)現(xiàn)的功能包括串口采集數(shù)據(jù)，無線遠(yuǎn)程傳輸數(shù)據(jù)，Qt開發(fā)上位機(jī)界面，外部讀取攝像頭與控制電機(jī)等功能。

2015-07-17 15:34:22

【OK210申請(qǐng)】用戶級(jí)手持終端設(shè)備

申請(qǐng)理由：由于項(xiàng)目的需求，需要為設(shè)備開發(fā)一個(gè)用戶級(jí)手持終端設(shè)備，以提高產(chǎn)品品質(zhì)和用戶體驗(yàn)，所以想試試這款開發(fā)版。項(xiàng)目描述：使用嵌入式開發(fā)平臺(tái)，開發(fā)一個(gè)遠(yuǎn)程圖像采集顯示終端，并通過終端遠(yuǎn)程控制設(shè)備（不使用網(wǎng)絡(luò)通信）

2015-07-18 21:40:36

【飛騰派4G版免費(fèi)試用】仙女姐姐的嵌入式實(shí)驗(yàn)室之五~LLaMA.cpp及3B“小模型”O(jiān)penBuddy-StableLM-3B

和語法規(guī)則，將這些詞匯串聯(lián)起來，形成一個(gè)完整的回答關(guān)于LLaMA及LLaMA.cpp LLaMA全稱是Large Language Model Meta AI，是由Meta AI研究人員發(fā)布的一個(gè)

2023-12-22 10:18:11

協(xié)調(diào)器和路由器發(fā)廣播消息終端設(shè)備收不到，但是終端設(shè)備發(fā)廣播消息路由器和協(xié)調(diào)器都能收到，這是什么原因？

本帖最后由一只耳朵怪于 2018-5-24 11:32 編輯我在用zstack開發(fā)時(shí)碰到這樣一個(gè)問題，想請(qǐng)教下這是什么原因？測(cè)試環(huán)境:：一個(gè)協(xié)調(diào)器，一個(gè)路由器，一個(gè)終端設(shè)備，zstack

2018-05-22 02:36:25

在X-CUBE-AI.7.1.0中導(dǎo)入由在線AI平臺(tái)生成的.h5模型報(bào)錯(cuò)怎么解決？

你好，我試圖在 X-CUBE-AI.7.1.0 中導(dǎo)入由在線 AI 平臺(tái)生成的 .h5 模型，收到錯(cuò)誤：E010(InvalidModelError): Model saved with Keras 2.7.0 but

2022-12-27 06:10:35

基于NXP i.MX6UL打造手持終端設(shè)備方案解決倉儲(chǔ)管理需求

` 近年來，隨著電子商務(wù)的迅猛發(fā)展，與倉儲(chǔ)物流相關(guān)的年總支出占GDP的比重越來越大，通過更智能的手持終端設(shè)備來對(duì)倉儲(chǔ)物流管理進(jìn)行改善，是降低成本的重要舉措，那么怎樣的嵌入式計(jì)算機(jī)產(chǎn)品可以完美貼合倉庫

2018-08-31 10:43:01

如何利用ATmega64實(shí)現(xiàn)終端設(shè)備顯示控制？

本文介紹了圖像點(diǎn)陣式液晶模塊CM320240與AVR單片機(jī)ATmega64相結(jié)合實(shí)現(xiàn)終端設(shè)備顯示控制的一種方法。給出了硬件電路的設(shè)計(jì)以及系統(tǒng)軟件架構(gòu)的搭建，并闡述了一種樹形菜單界面的設(shè)計(jì)方法。

2021-06-02 06:19:16

如何去使用STM32CubeMX.AI嵌入式設(shè)備呢

STM32CubeMX.AI嵌入式設(shè)備有何特點(diǎn)？如何去使用STM32CubeMX.AI嵌入式設(shè)備呢？

2021-11-19 07:12:52

嵌入式手持終端電源管理系統(tǒng)有什么功能？

可能不超過2 min。隨著人們對(duì)嵌入式手持終端設(shè)備功能水平要求的不斷提高，手持終端的功耗也在不斷增高。與之相矛盾的是，手持終端的尺寸卻在不斷縮小，工作時(shí)間也在不斷延長(zhǎng)，使嵌入式手持終端電源系統(tǒng)管理面臨

2020-03-10 07:44:13

支持BLE連接的全套SPO2脈動(dòng)式血氧計(jì)手指夾終端設(shè)備

描述該參考設(shè)計(jì)適用于采用 TI 信號(hào)鏈、電源和連接組件的全套 SPO2 脈動(dòng)式血氧計(jì)手指夾終端設(shè)備。借助 TI 的 AFE4490 脈動(dòng)式血氧計(jì) AFE，可以加速和簡(jiǎn)化脈動(dòng)式血氧計(jì)的設(shè)計(jì)過程，同時(shí)

2018-12-13 14:14:48

有一臺(tái)協(xié)調(diào)器組網(wǎng)后終端設(shè)備無法入網(wǎng)，終端設(shè)備入其他協(xié)調(diào)器可以正常入網(wǎng)，請(qǐng)問是由哪部分的設(shè)備故障引起的？

本帖最后由一只耳朵怪于 2018-5-22 17:27 編輯情況是這樣的，有一臺(tái)協(xié)調(diào)器組網(wǎng)后終端設(shè)備無法入網(wǎng)（其他同固件的協(xié)調(diào)器正常），卡在association request那里（抓

2018-05-22 06:30:41

潤和軟件DAYU 200的OpenHarmony賦能之旅

網(wǎng)關(guān)、工業(yè)控制、信息發(fā)布終端、多媒體廣告機(jī)等場(chǎng)景，亦可廣泛應(yīng)用于嵌入式人工智能領(lǐng)域。看完了介紹，接下來就到我們?yōu)殚_發(fā)者賦能的環(huán)節(jié)了。為開發(fā)者賦能，我們?cè)谛袆?dòng)鑒于開發(fā)者們都提到，學(xué)習(xí)OpenHarmony

2022-11-15 15:22:34

深圳市樂眾云金融手持終端設(shè)備主板定制方案效率如何？

深圳市樂眾云金融手持終端設(shè)備主板定制方案效率如何？

2023-08-28 18:09:53

用嵌入式AI技術(shù)提升智能硬件應(yīng)用能力

設(shè)備、汽車電子、機(jī)器人等行業(yè)，嵌入式AI一定會(huì)頻繁出現(xiàn)。嵌入式AI，即將嵌入式與AI結(jié)合起來，又稱為端側(cè)AI，可以使AI算法不通過遠(yuǎn)程執(zhí)行，而在終端設(shè)備上運(yùn)行，芯片體積更小、價(jià)格更低，產(chǎn)生的熱量與功耗

2022-10-09 14:33:09

電信終端設(shè)備電磁兼容問題的診斷與處理

電信終端設(shè)備電磁兼容問題的診斷與處理

2015-08-06 10:23:17

英碼科技精彩亮相火爆的IOTE 2023，多面賦能AIoT產(chǎn)業(yè)發(fā)展！

算力硬件為基礎(chǔ)，搭載自研的0代碼移植工具鏈，在不觸碰客戶模型文件的前提下，實(shí)現(xiàn)算法從GPU到XPU的一鍵移植，最快1天實(shí)現(xiàn)算法適配，快、易、省賦能長(zhǎng)尾AI算法在AI視覺產(chǎn)業(yè)的廣泛應(yīng)用；目前已廣泛應(yīng)用

2023-09-25 10:03:19

請(qǐng)問STM32WL可以與STM32Cube.AI一起使用嗎？

新手問題 - 我可以將 AI 與 STM32WL SoC 一起使用嗎？我想訓(xùn)練一個(gè)模型，然后用STM32Cube.AI放到STM32WLE5CC上。這樣我就可以在終端設(shè)備上使用 AI 并使用 LoRa 傳輸數(shù)據(jù)，所有這些都使用一個(gè)芯片。這可能嗎？提前謝謝了。

2022-12-07 07:45:35

請(qǐng)問zigbee 終端設(shè)備如何離開當(dāng)前網(wǎng)絡(luò)？

zigbee 終端設(shè)備如何離開當(dāng)前網(wǎng)絡(luò)，恢復(fù)出廠設(shè)置嗎？？

2018-08-08 06:05:28

請(qǐng)問下：網(wǎng)絡(luò)建立好后，如果，協(xié)調(diào)器重啟后，為什么需要再次重啟終端設(shè)備？

您好： ? ? ? ?請(qǐng)問下：網(wǎng)絡(luò)建立好后，如果，協(xié)調(diào)器重啟后，為什么需要再次重啟終端設(shè)備，我的協(xié)調(diào)器才能收到數(shù)據(jù)？ ? ? ? ? 有沒有方法使得，在協(xié)調(diào)器復(fù)位后，不再重啟終端設(shè)備，終端設(shè)備自動(dòng)進(jìn)行網(wǎng)絡(luò)的連接？ ?如果有的話，它與那些部分、函數(shù)有關(guān)？應(yīng)該怎樣來實(shí)現(xiàn)？

2018-06-24 00:46:50

請(qǐng)問協(xié)調(diào)器怎樣可以隨時(shí)去控制處于休眠狀態(tài)的終端設(shè)備？？

的目的。由于要考慮低功耗，所以作為終端設(shè)備的遙控只能是處于PM2的休眠狀態(tài)，這種狀態(tài)下只有外部中斷和定時(shí)器能喚醒。所以，我不能隨時(shí)的控制這個(gè)終端設(shè)備啊，有沒有別的什么機(jī)制或者方法啊？有人說PM2下，可以

2018-08-08 08:51:36

請(qǐng)問各位，批量生產(chǎn)嵌入式終端設(shè)備：比如煙感報(bào)警器的過程是怎么樣的？

請(qǐng)問各位，批量生產(chǎn)嵌入式終端設(shè)備：比如煙感報(bào)警器的過程是怎么樣的？本人小白，想請(qǐng)教一下，量產(chǎn)設(shè)備需要經(jīng)過哪幾個(gè)過程才能得到最終的成品？我自己沒有什么經(jīng)驗(yàn)，也不知道該怎么找廠家，只知道有個(gè)大題的流程。希望大神不吝賜教～

2019-04-22 17:17:59

OLT(光纜終端設(shè)備)是什么

OLT: optical line terminal(光纜終端設(shè)備)，用于連接光纖干線的終端設(shè)備。OLT除了提供業(yè)務(wù)匯聚的功能外，還是集中網(wǎng)絡(luò)管理平臺(tái)。在OLT上可以實(shí)現(xiàn)基于設(shè)備的網(wǎng)元管理和基于業(yè)務(wù)的安全管理和配置管理。不僅可以監(jiān)測(cè)、管理設(shè)備及端口，還可以進(jìn)行業(yè)務(wù)開通和用戶

2011-03-08 19:49:57

54535

網(wǎng)絡(luò)終端設(shè)備的安裝與配置及結(jié)構(gòu)

計(jì)算機(jī)網(wǎng)絡(luò)用戶主要通過網(wǎng)絡(luò)終端設(shè)備實(shí)現(xiàn)與計(jì)算機(jī)網(wǎng)絡(luò)的連接，獲取網(wǎng)絡(luò)中提供的各種服務(wù)，實(shí)現(xiàn)相關(guān)的功能。本項(xiàng)目的主要目標(biāo)是完成計(jì)算機(jī)網(wǎng)絡(luò)終端設(shè)備的軟、硬件安裝和配置，理解網(wǎng)絡(luò)體系結(jié)構(gòu)和TCP/IP協(xié)議的相關(guān)知識(shí)。

2017-09-20 17:33:29

終端設(shè)備的基本描述

終端設(shè)備概述

2019-02-28 06:09:00

3525

UIUC推出最新DNN/FPGA協(xié)同方案助力物聯(lián)網(wǎng)終端設(shè)備AI應(yīng)用

」網(wǎng)絡(luò)搜索引擎 +「Auto-HLS」加速器生成技術(shù)，自動(dòng)生成適用于終端設(shè)備的 DNN 模型及 FPGA 加速器設(shè)計(jì)。

2019-06-10 14:39:30

1044

據(jù)最新統(tǒng)計(jì)，5G終端設(shè)備的款數(shù)已經(jīng)突破600大關(guān)

3月8日消息，據(jù)GSA的最新統(tǒng)計(jì)，5G終端設(shè)備的款數(shù)已經(jīng)突破600大關(guān)，已經(jīng)投入商用的5G終端已經(jīng)突破了400款。

2021-03-10 09:35:13

1711

遠(yuǎn)程測(cè)控終端設(shè)備RTU工作原理

遠(yuǎn)程測(cè)控終端設(shè)備RTU工作原理

2021-11-18 17:52:57

3447

觸摸自助終端設(shè)備的優(yōu)點(diǎn)有哪些

伴隨著高新科技的持續(xù)發(fā)展趨勢(shì)，觸摸時(shí)期來臨，銷售市場(chǎng)上問世了許多觸摸商品，觸摸自助終端設(shè)備便是在其中一種。現(xiàn)如今，觸摸自助終端設(shè)備的運(yùn)用及其愈來愈普遍了，酒店餐廳、飯店、客運(yùn)站、汽車站、飛機(jī)場(chǎng)

2022-03-01 15:17:57

761

大型語言模型有哪些用途？

大型語言模型能識(shí)別、總結(jié)、翻譯、預(yù)測(cè)和生成文本及其他內(nèi)容。 AI 應(yīng)用在大型語言模型的幫助下，可用于解決總結(jié)文章、編寫故事和參與長(zhǎng)對(duì)話等多種繁重工作。大型語言模型（LLM）是一種深度學(xué)習(xí)算法，可以

2023-02-23 19:50:04

3887

NVIDIA 為全球企業(yè)帶來生成式 AI 推出用于創(chuàng)建大型語言模型和視覺模型的云服務(wù)

和運(yùn)行自定義大型語言模型和生成式AI模型，這些模型專為企業(yè)所在領(lǐng)域的特定任務(wù)而創(chuàng)建，并且在專有數(shù)據(jù)上訓(xùn)練。 ? Getty Images、Morningstar、Quantiphi、Shutterstock公

2023-03-22 13:45:40

261

GTC23 | NVIDIA 為全球企業(yè)帶來生成式 AI，推出用于創(chuàng)建大型語言模型和視覺模型的云服務(wù)

能夠構(gòu)建、完善和運(yùn)行自定義大型語言模型和生成式 AI 模型，這些模型專為企業(yè)所在領(lǐng)域的特定任務(wù)而創(chuàng)建，并且在專有數(shù)據(jù)上訓(xùn)練。 Getty Images、Morningstar、Quantiphi、Shutterst

2023-03-23 06:50:04

365

GTC23 | NVIDIA 為全球企業(yè)帶來生成式 AI，推出用于創(chuàng)建大型語言模型和視覺模型的云服務(wù)

2023-03-25 15:20:04

285

NVIDIA 為 1 億臺(tái) Windows RTX PC 和工作站提供全新生成式 AI 功能與突破性性能

搭載 Tensor Core 的 NVIDIA RTX GPU 正在加速生成式 AI 模型的開發(fā)與部署；即將推出的 Max-Q 低功耗 AI 推理將提高能效比。生成式 AI 正在迅速開創(chuàng)一個(gè)計(jì)算

2023-05-31 03:50:02

344

號(hào)稱「碾壓」LLaMA的Falcon實(shí)測(cè)得分僅49.08，HuggingFace決定重寫排行榜代碼

這是一組由 Meta 開源的大型語言模型，共有 7B、13B、33B、65B 四種版本。其中，LLaMA-13B 在大多數(shù)數(shù)據(jù)集上超過了 GPT-3（175B），LLaMA-65B 達(dá)到了和 Chinchilla-70B、PaLM-540B 相當(dāng)?shù)乃健?/div>

2023-06-11 11:24:20

421

Meta開源文本如何生成音樂大模型

年初，谷歌推出了音樂生成大模型 MusicLM，效果非常不錯(cuò)。有人稱這比大火的 ChatGPT 還重要，幾乎解決了音樂生成問題。近日，Meta 也推出了自己的文本音樂生成模型 MusicGen，并且

2023-06-12 15:11:25

493

Meta開源I-JEPA，“類人”AI模型

Meta 宣布推出一個(gè)全新的 AI 模型 Image Joint Embedding Predictive Architecture (I-JEPA)，可通過對(duì)圖像的自我監(jiān)督學(xué)習(xí)來學(xué)習(xí)世界的抽象表征

2023-06-18 17:47:30

750

語音領(lǐng)域的GPT時(shí)刻：Meta 發(fā)布「突破性」生成式語音系統(tǒng)，一個(gè)通用模型解決多項(xiàng)任務(wù)

繼開源 LLaMA 之后，Meta 在生成式 AI 方向又公布一項(xiàng)重大研究。我們知道，GPT、DALL-E 等大規(guī)模生成模型徹底改變了自然語言處理和計(jì)算機(jī)視覺研究。這些模型可以生成高保真文本或圖像

2023-06-18 21:30:02

415

中安科技三款監(jiān)所終端設(shè)備通過OpenHarmony兼容性測(cè)評(píng)

點(diǎn)擊藍(lán)字 ╳ 關(guān)注我們開源項(xiàng)目 OpenHarmony 是每個(gè)人的 OpenHarmony 近日，山東中安科技股份有限公司（以下簡(jiǎn)稱“中安科技”）的三款監(jiān)所智能終端設(shè)備通過OpenAtom

2023-06-19 21:10:02

325

人臉核驗(yàn)終端設(shè)備門禁考勤應(yīng)用

人臉核驗(yàn)終端設(shè)備的用途主要有以下

2022-12-09 15:51:41

412

RISC-V跑大模型（二）：LLaMA零基礎(chǔ)移植教程

這是RISC-V跑大模型系列的第二篇文章，主要教大家如何將LLaMA移植到RISC-V環(huán)境里。

2023-07-10 10:10:38

706

高通攜手Meta利用Llama 2賦能終端側(cè)AI應(yīng)用

和服務(wù)相比，終端側(cè)AI部署能夠助力開發(fā)者以顯著降低的成本，提升用戶隱私保護(hù)、滿足用戶安全偏好、增強(qiáng)應(yīng)用可靠性，并實(shí)現(xiàn)個(gè)性化。高通技術(shù)公司和Meta正在合作優(yōu)化Meta Llama 2大語言模型直接在終端側(cè)的執(zhí)行，無需僅依賴云服務(wù)。能夠在智能手機(jī)、PC、VR/AR頭顯和汽車等終

2023-07-19 10:00:02

323

高通攜手Meta利用Llama 2賦能終端側(cè)AI應(yīng)用

高通計(jì)劃從2024年起，在旗艦智能手機(jī)和PC上支持基于Llama 2的AI部署，賦能開發(fā)者使用驍龍平臺(tái)的AI能力，推出激動(dòng)人心的全新生成式AI應(yīng)用。

2023-07-19 10:00:03

462

高通攜手Meta利用Llama 2賦能終端側(cè)AI應(yīng)用

因此，高通技術(shù)公司計(jì)劃支持基于llama 2的終端ai部署，以創(chuàng)建新的、有趣的ai應(yīng)用程序。通過這種方式，客戶、合作伙伴和開發(fā)者可以構(gòu)建智能模擬器、生產(chǎn)力應(yīng)用程序、內(nèi)容制作工具和娛樂等的使用案例。驍龍?賦能實(shí)現(xiàn)的新終端ai體驗(yàn)，即使在飛行模式下，也可以在沒有網(wǎng)絡(luò)連接的地區(qū)運(yùn)行。

2023-07-19 10:26:38

345

微軟聯(lián)合Meta發(fā)布免費(fèi)商業(yè)應(yīng)用的開源AI模型Llama 2

在 Meta 看來，「開放的方法是當(dāng)今人工智能模型開發(fā)的正確方法，特別是在技術(shù)快速發(fā)展的生成領(lǐng)域。通過公開提供人工智能模型，它們可以使每個(gè)人受益。為企業(yè)、初創(chuàng)企業(yè)、企業(yè)家和研究人員提供其開發(fā)的工具，這些工具的開發(fā)規(guī)模是他們自己難以構(gòu)建的

2023-07-19 16:22:15

485

AI競(jìng)賽追趕者聯(lián)盟？“云-邊”一體或成為AI應(yīng)用閉環(huán)的必由之路

當(dāng)?shù)貢r(shí)間7月18日，Meta宣布，將發(fā)布其開源大模型LLaMA商用版本，新版本名為Llama 2。

2023-07-20 10:27:59

193

Meta推出免費(fèi)大模型Llama 2，GPT要有危機(jī)感了

作為Meta首批合作伙伴之一，亞馬遜云科技宣布客戶可以通過Amazon SageMaker JumpStart來使用Meta開發(fā)的Llama 2基礎(chǔ)模型。

2023-07-21 16:10:59

904

英特爾通過軟硬件為L(zhǎng)Iama 2大模型提供加速，持續(xù)發(fā)力推動(dòng)AI發(fā)展

英特爾廣泛的AI硬件組合及開放的軟件環(huán)境，為Meta發(fā)布的Llama 2模型提供了極具競(jìng)爭(zhēng)力的選擇，進(jìn)一步助力大語言模型的普及，推動(dòng)AI發(fā)展惠及各行各業(yè)。大語言模型（LLM）在生成文本、總結(jié)和翻譯

2023-07-21 18:15:04

480

英特爾一系列AI解決方案，為Llama 2大模型提供實(shí)力之選

2023-07-24 19:31:56

387

Llama 2 登陸 Azure 和 Windows，微軟與 Meta 拓展人工智能合作伙伴關(guān)系

和 Windows 上支持 Llama 2 大型語言模型（LLM）系列。Llama 2 旨在幫助開發(fā)者和組織構(gòu)建生成式人工智能工具和體驗(yàn)。Meta 和微軟共同致力于實(shí)現(xiàn)“讓人工智能惠及更多

2023-07-26 10:35:01

303

Meta推出Llama 2 免費(fèi)開放商業(yè)和研究機(jī)構(gòu)使用

與所有LLM一樣，Llama 2偶爾會(huì)產(chǎn)生不正確或不可用的答案，但Meta介紹Llama的論文聲稱，它在學(xué)術(shù)基準(zhǔn)方面與OpenAI的GPT 3.5不相上下，如MMLU（衡量LLM在57門STEM科目中的知識(shí)）和GSM8K（衡量LLM對(duì)數(shù)學(xué)的理解）。

2023-08-02 16:17:25

410

阿里云開源AI大模型，挑戰(zhàn)Meta、OpenAI

創(chuàng)新 · 挑戰(zhàn)Meta：阿里云開源通義千問大模型 Google的RT-2：當(dāng)人工智能遇上機(jī)器人在這個(gè)充滿各種技術(shù)創(chuàng)新的時(shí)代，Google再次引領(lǐng)潮流，將AI與機(jī)器人技術(shù)相結(jié)合，為我們帶來了一個(gè)全新

2023-08-04 18:45:01

511

IBM 計(jì)劃在 watsonx 平臺(tái)上提供 Meta 的 Llama 2 模型

IBM 企業(yè)就緒的 AI 和數(shù)據(jù)平臺(tái)?watsonx?不斷推出新功能。IBM 宣布，計(jì)劃在 watsonx 的 AI 開發(fā)平臺(tái)?watsonx.ai?上納入?Meta?的 700?億參數(shù) Llama

2023-08-09 20:35:01

314

MediaTek 聯(lián)合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計(jì)劃，以 AI 大模型賦能終端設(shè)備

MediaTek 正式宣布與百度聯(lián)合發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計(jì)劃，雙方將共同推進(jìn) MediaTek 硬件平臺(tái)與飛槳和文心大模型的適配。目前雙方正在合作優(yōu)化文心大模型在終端設(shè)備上的執(zhí)行效果

2023-08-16 17:40:02

325

Meta即將推出開源代碼生成平臺(tái)Code Llama，劍指OpenAI Codex

Code Llama 的卓越功能源自行業(yè)領(lǐng)先的 AI 算法。其核心模型由包含編程語言、編碼模式和最佳實(shí)踐的大規(guī)模數(shù)據(jù)集訓(xùn)練而成。自然語言處理（NLP）技術(shù)則讓 Code Llama 有能力理解開發(fā)者的輸入，并生成與上下文相匹配的代碼建議。

2023-08-21 15:15:02

570

關(guān)于Llama 2的一切資源，我們都幫你整理好了

Meta 發(fā)布的 Llama 2，是新的 SOTA 開源大型語言模型（LLM）。Llama 2 代表著 LLaMA 的下一代版本，可商用。Llama 2 有 3 種不同的大小 —— 7B、13B 和 70B 個(gè)可訓(xùn)練參數(shù)。

2023-08-23 15:40:09

674

Meta發(fā)布一款可以使用文本提示生成代碼的大型語言模型Code Llama

今天，Meta發(fā)布了Code Llama，一款可以使用文本提示生成代碼的大型語言模型（LLM）。

2023-08-25 09:06:57

885

Meta將推出編程人工智能工具：Code Llama，免費(fèi)提供

據(jù)路透社報(bào)道，meta計(jì)劃推出全新編程人工智能模型：Code Llama，可以根據(jù)文字提示來編寫計(jì)算機(jī)代碼，或協(xié)助開發(fā)者編程。這一AI工具將免費(fèi)提供。

2023-08-25 11:39:00

493

Meta發(fā)布一種Code Llama工具用于生成新代碼和調(diào)試人工編寫工作

Meta公司表示，Meta發(fā)布了一種名為Code Llama的工具，該工具建立在其Llama 2大型語言模型的基礎(chǔ)上，用于生成新代碼和調(diào)試人工編寫的工作。 Code Llama將使用與Llama

2023-08-28 16:56:39

932

端側(cè)大模型到通用智能體——智能手機(jī)AI進(jìn)化的下一場(chǎng)革命(一)

時(shí)隔半年后，Meta AI在周二發(fā)布了最新一代開源大模型Llama 2。相較于今年2月發(fā)布的Llama 1，訓(xùn)練所用的token翻了一倍至2萬億，同時(shí)對(duì)于使用大模型最重要的上下文長(zhǎng)度限制，Llama 2也翻了一倍。Llama 2包含了70億、130億和700億參數(shù)的模型。

2023-08-29 16:50:10

950

虹科分享 | 谷歌Vertex AI平臺(tái)使用Redis搭建大語言模型

化。有Redis加持的大語言模型可應(yīng)用于文檔檢索、虛擬購物助手、客戶服務(wù)助理等，為企業(yè)帶來益處。一、語言模型構(gòu)件應(yīng)用程序生成、理解和使用人類語言的能力正變得越來越重要，從客服機(jī)器人到虛擬助手，再到內(nèi)容生成，人們對(duì)AI應(yīng)用功能的需求橫跨眾多領(lǐng)

2023-09-18 11:26:49

316

亞馬遜云科技宣布推出生成式AI新服務(wù)加速創(chuàng)新

亞馬遜云科技全托管生成式AI服務(wù)Amazon Bedrock現(xiàn)已正式可用。客戶可以使用來自眾多領(lǐng)先AI公司的高性能基礎(chǔ)模型，以及構(gòu)建生成式AI應(yīng)用程序所需的一系列功能，在簡(jiǎn)化開發(fā)過程的同時(shí)確保隱私

2023-10-08 05:40:28

261

在線研討會(huì) | 基于 LLM 構(gòu)建中文場(chǎng)景檢索式對(duì)話機(jī)器人：Llama2 + NeMo

4,096，并對(duì)算法細(xì)節(jié)進(jìn)行了優(yōu)化，加速了推理速度，讓 Llama2 的性能有了很大的提升，能夠和 ChatGPT 相媲美。 Llama2 大模型旨在處理廣泛的語言任務(wù)，包括文本生成、機(jī)器翻譯、問題回答、代碼生成等等。該模型經(jīng)過大規(guī)模的訓(xùn)練，能夠理解并生成文本，為各種應(yīng)用提供強(qiáng)大的自然語言處理能力。它的多

2023-10-13 20:35:02

564

MediaTek 發(fā)布天璣 9300 旗艦 5G 生成式 AI 移動(dòng)芯片，開啟全大核計(jì)算

MediaTek 發(fā)布天璣 9300 旗艦 5G 生成式 AI 移動(dòng)芯片，憑借創(chuàng)新的全大核架構(gòu)設(shè)計(jì)，提供遠(yuǎn)超以往的高智能、高性能、高能效、低功耗卓越特性，以極具突破性的先進(jìn)科技，在端側(cè)生成式 AI

2023-11-06 21:35:02

346

利用 NVIDIA Jetson 實(shí)現(xiàn)生成式 AI

上以交互速率運(yùn)行的 Llama-2-70B 模型。圖 1. 領(lǐng)先的生成式 AI 模型在? Jetson AGX Orin 上的推理性能如要在 Jetson 上快速測(cè)試最新的模型和應(yīng)用，請(qǐng)使用 Jetson 生成式 AI 實(shí)驗(yàn)室提供的教程和資源。

2023-11-07 21:25:01

398

走向邊緣智能，美格智能攜手阿加犀成功在高算力AI模組上運(yùn)行一系列大語言模型

近日，美格智能發(fā)揮軟硬件一體協(xié)同開發(fā)能力，融合阿加犀卓越的AI優(yōu)化部署技術(shù)，在搭載高通QCS8550平臺(tái)的高算力AI模組上，成功運(yùn)行了一系列大語言模型，包括LLaMA-2、通義千問Qwen、百川大模型、RedPajama、ChatGLM2、Vicuna，展現(xiàn)出卓越的邊緣端大模型部署能力。

2023-11-14 14:39:25

486

走向邊緣智能，美格智能攜手阿加犀成功在高算力AI模組上運(yùn)行一系列大語言模型

近日，美格智能發(fā)揮軟硬件一體協(xié)同開發(fā)能力，融合阿加犀卓越的AI優(yōu)化部署技術(shù)，在搭載高通QCS8550平臺(tái)的高算力AI模組上，成功運(yùn)行了一系列大語言模型，包括LLaMA-2、通義千問Qwen、百川

2023-11-14 14:34:05

188

MediaTek 發(fā)布天璣 8300 移動(dòng)芯片，全面革新推動(dòng)端側(cè)生成式 AI 創(chuàng)新

MediaTek 發(fā)布天璣 8300 5G 生成式 AI 移動(dòng)芯片，將天璣的旗艦級(jí)體驗(yàn)引入天璣 8000 系列，賦能高端智能手機(jī) AI 創(chuàng)新。作為天璣 8000 系列家族的新成員，天璣 8300

2023-11-21 20:30:02

228

大語言模型簡(jiǎn)介：基于大語言模型模型全家桶Amazon Bedrock

本文基于亞馬遜云科技推出的大語言模型與生成式AI的全家桶：Bedrock對(duì)大語言模型進(jìn)行介紹。大語言模型指的是具有數(shù)十億參數(shù)（B+）的預(yù)訓(xùn)練語言模型（例如：GPT-3, Bloom, LLaMA)。這種模型可以用于各種自然語言處理任務(wù)，如文本生成、機(jī)器翻譯和自然語言理解等。

2023-12-04 15:51:46

356

Meta推出“性能最優(yōu)”代碼生成AI模型Code Llama 70B

據(jù)悉，Code Llama工具于去年8月份上線，面向公眾開放且完全免費(fèi)。此次更新的Code Llama 70B不僅能處理更多復(fù)雜查詢，其在HumanEval基準(zhǔn)測(cè)試中的準(zhǔn)確率高達(dá)53%，超越GPT-3.5的48.1%，然而與OpenAI公布的GPT-4準(zhǔn)確率（67%）仍有一定差距。

2024-01-30 10:36:18

279

Meta推出最新版AI代碼生成模型Code Llama70B

Meta近日宣布了其最新版本的AI代碼生成模型Code Llama70B，并稱其為“目前最大、最優(yōu)秀的模型”。這一更新標(biāo)志著Meta在AI代碼生成領(lǐng)域的持續(xù)創(chuàng)新和進(jìn)步。

2024-01-30 18:21:04

793

Meta發(fā)布開源大模型Code Llama 70B

近日，Meta宣布推出了一款新的開源大模型Code Llama 70B，這是其“Code Llama家族中體量最大、性能最好的模型版本”。這款新模型提供三種版本，并免費(fèi)供學(xué)術(shù)界和商業(yè)界使用。

2024-01-31 09:24:18

311

Meta發(fā)布CodeLlama70B開源大模型

Meta發(fā)布CodeLlama70B開源大模型 Meta發(fā)布了開源大模型CodeLlama70B，號(hào)稱是CodeLlama系列體量最大、性能最強(qiáng)的大模型。 Code Llama 70B 有一個(gè)很出色

2024-01-31 10:30:18

879

LLaMA 2是什么？LLaMA 2背后的研究工作

Meta 發(fā)布的 LLaMA 2，是新的 sota 開源大型語言模型 (LLM)。LLaMA 2 代表著 LLaMA 的下一代版本，并且具有商業(yè)許可證。

2024-02-21 16:00:21

246

MediaTek將在MWC 2024展示創(chuàng)新生成式AI技術(shù)和應(yīng)用

MediaTek將亮相2024年世界移動(dòng)通信大會(huì)（MWC 2024），此次大會(huì)上，MediaTek將基于其天璣9300集成的新一代AI處理器，展示一系列前沿的生成式AI技術(shù)和應(yīng)用。值得一提的是，MediaTek將帶來多項(xiàng)業(yè)界領(lǐng)先的端側(cè)生成式AI應(yīng)用的首發(fā)亮相，為與會(huì)者帶來全新的技術(shù)體驗(yàn)。

2024-02-26 10:50:32

361

已全部加載完成

搜索歷史

MediaTek運(yùn)用Meta Llama 2大語言模型，賦能終端設(shè)備生成式AI應(yīng)用

評(píng)論