完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>
標簽 > llm
在人工智能領域,LLM代表“大型語言模型”。在人工智能(AI)領域自然語言處理(NLP)是一個快速進展的領域。NLP中最重要是大語言模型(LLM)。大語言模型(英文:Large Language Model,縮寫LLM),也稱大型語言模型,是一種基于機器學習和自然語言處理技術的模型。
文章:321個 瀏覽:774次 帖子:3個
使用NVIDIA TensorRT-LLM支持CodeFuse-CodeLlama-34B上的int4量化和推理優化實踐
CodeFuse是由螞蟻集團開發的代碼語言大模型,旨在支持整個軟件開發生命周期,涵蓋設計、需求、編碼、測試、部署、運維等關鍵階段。
華為推出ICN Master解決方案,率先將大模型應用到核心網運維領域
2023年ChatGPT的出現讓大模型成為各行各業的熱點,如何構建大模型,實現大模型和云核心網之間的深度融合是核心網產業當前新熱點。
使用模塊化、OpenUSD的Omniverse加速3D工作流程
最新的 NVIDIA Omniverse 版本可基于 Omniverse Kit 105 套件提供一系列令人振奮的新功能,使開發者能夠更加輕松地開始構建...
訓練自己的大型語言模型(LLM)是一個復雜且資源密集的過程,涉及到大量的數據、計算資源和專業知識。以下是訓練LLM模型的一般步驟,以及一些關鍵考慮因素:...
檢索增強生成(RAG)如何助力企業為各種企業用例創建高質量的內容?
在生成式 AI 時代,機器不僅要從數據中學習,還要生成類似人類一樣的文本、圖像、視頻等。檢索增強生成(RAG)則是可以實現的一種突破性方法。
【FlashAttention-V4,非官方】FlashDecoding++
圖b所示,FlashAttention和FlashDecoding對softmax操作進行了分塊處理,但是塊與塊之間需要進行同步(主要是局部最大值)。本...
富士通發布最新的人工智能(AI)戰略,聚焦深化人類與AI之間的協作
富士通株式會社(以下簡稱“富士通”)發布了最新的集團人工智能(AI)戰略,聚焦深化人類與AI之間的協作,并提出了將AI作為“可信賴的助手”這一愿景,為提...
基于NVIDIA Megatron Core的MOE LLM實現和訓練優化
本文將分享阿里云人工智能平臺 PAI 團隊與 NVIDIA Megatron-Core 團隊在 MoE (Mixture of Experts) 大語言...
1. 基本概念 大型語言模型(LLM): 大型語言模型是一種基于深度學習的自然語言處理(NLP)技術,它通過訓練大量的文本數據來理解和生成自然語言。這些...
近日,百度文心一言宣布向全社會開放,首日,百度搜索就有超3億次需求由生成式智能引擎解決;百度搜索“AI伙伴”當日訪問用戶數突破400萬。 在這樣的背景下...
LLM 對軟件研發的單點提效,我之前錄制過一段視頻,大家可以直接觀看,里面有詳細的演示,我在這里就不再贅述了。
英偉達GTC2025亮點:電信行業領先企業啟用代理式AI優化網絡運維
Amdocs、BubbleRAN、ServiceNow、軟銀集團與 Tech Mahindra 基于 NVIDIA AI Enterprise 開發大型...
安霸發布N1系列生成式AI芯片支持前端設備運行本地LLM應用
單顆 SoC 支持 1 至 340 億參數的多模態大模型(Multi-Modal LLM)推理,實現前端低功耗生成式 AI。
全新 NVIDIA NeMo Retriever微服務大幅提升LLM的準確性和吞吐量
企業能夠通過提供檢索增強生成功能的生產就緒型 NVIDIA NIM 推理微服務,充分挖掘業務數據的價值。這些微服務現已集成到 Cohesity、Data...
編輯推薦廠商產品技術軟件/工具OS/語言教程專題
電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯網 | NXP | 賽靈思 |
步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
伺服電機 | SVPWM | 光伏發電 | UPS | AR | 智能電網 | 國民技術 | Microchip |
開關電源 | 步進電機 | 無線充電 | LabVIEW | EMC | PLC | OLED | 單片機 |
5G | m2m | DSP | MCU | ASIC | CPU | ROM | DRAM |
NB-IoT | LoRa | Zigbee | NFC | 藍牙 | RFID | Wi-Fi | SIGFOX |
Type-C | USB | 以太網 | 仿真器 | RISC | RAM | 寄存器 | GPU |
語音識別 | 萬用表 | CPLD | 耦合 | 電路仿真 | 電容濾波 | 保護電路 | 看門狗 |
CAN | CSI | DSI | DVI | Ethernet | HDMI | I2C | RS-485 |
SDI | nas | DMA | HomeKit | 閾值電壓 | UART | 機器學習 | TensorFlow |
Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
DuerOS | Brillo | Windows11 | HarmonyOS |