近日,Meta在開源Llama 3.2的1B與3B模型后,再次為人工智能領域帶來了新進展。10月24日,Meta正式推出了這兩個模型的量化版本,旨在進一步優化模型性能,拓寬其應用場景。
據Meta介紹,量化后的Llama 3.2模型在大小上平均減少了56%,RAM使用量也平均降低了41%。這一顯著的優化使得模型在運行過程中能夠占用更少的資源,同時速度提高了2至4倍。此外,量化后的模型還降低了功耗,這對于將其部署到移動設備上具有重要意義。
此次Meta推出的量化版Llama 3.2模型,不僅展示了其在人工智能領域的持續創新能力,也為更多開發者提供了高效、便捷的工具。隨著這些模型在移動設備上的廣泛應用,人工智能將更深入地融入人們的日常生活,為社會帶來更多的便利和可能性。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
人工智能
+關注
關注
1804文章
48637瀏覽量
246111 -
開源
+關注
關注
3文章
3576瀏覽量
43426 -
Meta
+關注
關注
0文章
300瀏覽量
11730
發布評論請先 登錄
相關推薦
熱點推薦
無法在OVMS上運行來自Meta的大型語言模型 (LLM),為什么?
無法在 OVMS 上運行來自 Meta 的大型語言模型 (LLM),例如 LLaMa2。
從 OVMS GitHub* 存儲庫運行 llama_chat Python* Demo 時
發表于 03-05 08:07
Meta組建四大專研小組,深入探索DeepSeek模型
近日,據報道,臉書母公司Meta為了提升其大模型Llama的性能,專門成立了四個研究小組,深入探索量化巨頭幻方量化旗下的國產大
Meta重磅發布Llama 3.3 70B:開源AI模型的新里程碑
?在人工智能領域,Meta的最新動作再次引起了全球的關注。今天,我們見證了Meta發布的 Llama 3.3 70B 模型,這是一個開源的人

Meta發布新AI模型Meta Motivo,旨在提升元宇宙體驗
Meta公司近日宣布,將推出一款名為Meta Motivo的全新人工智能模型。該模型具備控制類似人類的數字代理動作的能力,有望為元宇宙的用戶體驗帶來顯著提升。
用Ollama輕松搞定Llama 3.2 Vision模型本地部署
Ollama的安裝。 一,Llama3.2 Vision簡介 Llama 3.2 Vision是一個多模態大型語言模型(LLMs)的集合,它包括預訓練和指令調整的圖像推理生成

使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型
前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日,Meta又發布了Llama3.2:一個多語言大型語言

亞馬遜云科技上線Meta Llama 3.2模型
亞馬遜云科技近日宣布,Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta
亞馬遜云科技正式上線Meta Llama 3.2模型
亞馬遜云科技宣布,Meta的新一代模型Llama 3.2,包括其首款多模態模型,現已在Amazon Bedrock和Amazon SageM
Meta發布多模態LLAMA 3.2人工智能模型
Meta Platforms近日宣布了一項重要技術突破,成功推出了多模態LLAMA 3.2人工智能模型。這一創新模型不僅能夠深度解析文本信息
源2.0-M32大模型發布量化版 運行顯存僅需23GB 性能可媲美LLaMA3
北京2024年8月23日?/美通社/ -- 近日,浪潮信息發布源2.0-M32大模型4bit和8bit量化版,性能比肩700億參數的LLaMA3開源大

Meta Llama 3.1系列模型可在Google Cloud上使用
我們很高興宣布,Llama 3.1 系列模型已添加到 Vertex AI Model Garden,這包括全新的 405B,即 Meta 迄今為止功能最強大、用途最廣泛的模型。這些
Meta發布全新開源大模型Llama 3.1
科技巨頭Meta近期震撼發布了其最新的開源人工智能(AI)模型——Llama 3.1,這一舉措標志著Meta在AI領域的又一重大突破。
Meta即將發布超強開源AI模型Llama 3-405B
在人工智能領域的激烈競爭中,Meta公司再次擲出重磅炸彈,宣布將于7月23日正式發布其最新力作——Llama 3-405B,一個擁有驚人4050億參數的開源大模型。這一舉措不僅標志著
Meta發布基于Code Llama的LLM編譯器
近日,科技巨頭Meta在其X平臺上正式宣布推出了一款革命性的LLM編譯器,這一模型家族基于Meta Code Llama構建,并融合了先進的代碼優化和編譯器功能。LLM編譯器的推出,標
評論