AMD發布通知：用戶可本地運行GPT大語言模型，構建個人AI聊天助手
據報道，3 月 7 日，AMD 正式宣布用戶可本地運行基于 GPT 的大規模語言模型 （LLM），打造專屬的AI聊天機器人。該動作，適用于采用全新 AMD XDNA NPU的Ryzen 7000及Ryzen 8000系列APU及內嵌AI加速器的Radeon RX 7000系列GPU。
AMD詳述運行步驟，如在搭載70億參數的Mistral機器上，需尋找并下載“TheBloke / OpenHermes-2.5-Mistral-7B-GGUF”；若選擇運行70億參數的LLAMA v2，須檢索并下載“TheBloke / Llama-2-7B-Chat-GGUF”。
值得注意的是，AMD并非首家推行此類舉措的廠商。據了解，近期英偉達（NVIDIA）亦推出了“Chat with RTX”人工智能聊天機器人，利用GeForce RTX 40與RTX 30系列GPU提供TensorRT-LLM功能集服務，根據本地化數據集快速生成AI結果。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
amd
+關注
關注
25文章
5566瀏覽量
135916 -
語言模型
+關注
關注
0文章
558瀏覽量
10682 -
聊天機器人
+關注
關注
0文章
348瀏覽量
12713
發布評論請先 登錄
相關推薦
熱點推薦
MaaS X Cherry Studio：基于DeepSeek API快速構建個人AI智能助手
Cherry Studio 是一款開源的多模型桌面客戶端，支持 Windows、macOS 和 Linux 系統。它集成了多種主流大語言模型（如 OpenAI、DeepSeek、Gemini 等），并支持
首創開源架構，天璣AI開發套件讓端側AI模型接入得心應手
正式提出“智能體化用戶體驗”方向，并啟動“天璣智能體化體驗領航計劃”。更值得注意的是，其三大AI工具鏈的發布——天璣開發工具集、AI開發套件2.0，以及升級的天璣星速引擎與旗艦芯片天璣
發表于 04-13 19:52
《AI Agent 應用與項目實戰》----- 學習如何開發視頻應用
，也可以是自定義的模型。
配置視頻生成的參數，如視頻分辨率、幀率、時長等。同時，設置輸入和輸出的格式，確保AI助手能夠正確地接收和處理視頻生成請求。
設計并實現一個用戶友好的前端界面，
發表于 03-05 19:52
OpenAI即將發布GPT-4.5與GPT-5
，GPT-4.5將在未來幾周內率先亮相，它將是OpenAI通用GPT-4模型的繼承者。這款新的算法在技術上進行了諸多優化和升級，旨在為用戶提供更加精準、高效的
OpenAI即將推出GPT-5模型
先進技術，其中包括備受矚目的o3工具。通過整合這些技術，GPT-5模型將實現更加強大的功能和性能。 值得一提的是，GPT-5模型將被廣泛應用于OpenAI的
趕緊在本地運行與OpenAI-o1能力近似的DeepSeek-R1模型
類似GPT4-V的能力：MiniCPM-V 2.6 》。本文將分享在本地運行能與OpenAI-o1 能力相媲美的 DeepSeek-R1? 模型。 [編者注]：OpenAI-o1是Op
NVIDIA推出面向RTX AI PC的AI基礎模型
NVIDIA 今日發布能在 NVIDIA RTX AI PC 本地運行的基礎模型，為數字人、內容創作、生產力和開發提供強大助力。
AMD發布10億參數開源AI模型OLMo
AMD公司近日宣布了一項重大進展，推出了首個完全開放的10億參數語言模型系列——AMD OLMo。這一舉措為開發者和研究人員提供了強大的AI
深信服發布安全GPT4.0數據安全大模型
近日，深信服在數據安全領域邁出了重要一步，正式發布了安全GPT4.0數據安全大模型。這一創新的大模型技術，旨在為用戶提供更高效、精準的數據安
AI大模型在自然語言處理中的應用
AI大模型在自然語言處理（NLP）中的應用廣泛且深入，其強大的語義理解和生成能力為NLP任務帶來了顯著的性能提升。以下是對AI大模型在NLP
扎克伯格:聯想運用Meta Llama大模型打造個人AI助手AI Now
美國西部時間10月15日，聯想集團于美國西雅圖盛大舉辦了一年一度的Tech World大會。會上，聯想集團首席執行官楊元慶攜手Meta創始人兼首席執行官馬克·扎克伯格，共同揭曉了一項重大合作成果——基于Meta的Llama大模型，面向PC用戶的
AMD發布首款小語言AI模型Llama-135m
近日，AMD在Huggingface平臺上正式推出了自家首款“小語言模型”——AMD-Llama-135m。這款模型以其獨特的推測解碼功能，
Mistral AI與NVIDIA推出全新語言模型Mistral NeMo 12B
Mistral AI 和 NVIDIA 于近日共同發布了一款全新的領先語言模型Mistral NeMo 12B。開發者可以輕松定制和部署該模型
OpenAI發布最新人工智能模型——GPT-4o mini
據國際媒體報道，OpenAI 在周四震撼發布了其最新的人工智能模型——GPT-4o mini，此舉標志著這家領先的AI初創公司在拓寬其廣受歡迎的聊天
llm模型和chatGPT的區別
LLM（Large Language Model）是指大型語言模型，它們是一類使用深度學習技術構建的自然語言處理（NLP）模型。LLM
工商網監
評論