女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

企業使用NVIDIA NeMo微服務構建AI智能體平臺

NVIDIA英偉達企業解決方案 ? 來源:NVIDIA英偉達企業解決方案 ? 2025-04-27 15:05 ? 次閱讀

已發布的 NeMo 微服務可與合作伙伴平臺集成,作為創建 AI 智能體的構建模塊,使用商業智能與強大的邏輯推理模型 (包括 NVIDIA Llama Nemotron) 處理更多任務。

AI 智能體的準確性、相關性和及時性由驅動它的數據所決定。

NVIDIA NeMo微服務現已全面推出,可幫助企業 IT 部門快速構建 AI 團隊,通過數據飛輪提高員工生產力。這些微服務提供了一個端到端的開發者平臺,用于創建先進的代理式 AI 系統,并根據推理和業務數據以及用戶偏好使用數據飛輪,以不斷優化這些系統。

借助數據飛輪,企業 IT 部門可以讓 AI 智能體作為數字成員加入。這些智能體可以利用用戶交互以及 AI 推理過程中生成的數據,不斷提升模型性能——將用例轉化為洞察,繼而將洞察轉化為行動。

為代理式 AI 構建強大的數據飛輪

如果沒有來自數據庫、用戶交互或現實世界信號的持續高質量輸入,智能體的理解能力就會下降,導致其輸出不再可靠,并且降低智能體的效率。

要維護和優化生產環境中驅動 AI 智能體的模型,需要三類數據:用于獲取洞察并適應數據模式演變的推理數據,提供智能的最新業務數據,以及驗證模型與應用表現是否符合預期的用戶反饋數據。而 NeMo 微服務能幫助開發者有效利用這三類數據。

NeMo 微服務通過端到端工具加快 AI 智能體的開發。這些工具可用來策劃、定制、評估和保護驅動智能體的模型。

NVIDIA NeMo 微服務(包括NeMo Customizer、NeMo Evaluator和NeMo Guardrails)可與NeMo Retriever和NeMo Curator一起使用,通過定制企業數據飛輪,簡化企業構建、優化和擴展 AI 智能體的體驗。例如:

NeMo Customizer加速大語言模型微調,將訓練吞吐量提升至高 1.8 倍。這一高性能、可擴展的微服務采用主流的后訓練技術,包括監督微調和低秩自適應。

NeMo Evaluator只需五次應用程序接口 (API) 調用,即可簡化自定義以及行業基準 AI 模型和工作流的評估。

NeMo Guardrails僅需額外半秒延遲,即可將合規性保護提高至多 1.4 倍,幫助組織實施符合組織政策和準則的強效安全防護措施。

借助 NeMo 微服務,開發者可以構建數據飛輪,從而提升 AI 智能體的準確性和效率。NeMo 微服務通過NVIDIA AI Enterprise軟件平臺部署,易于操作,并且可在任何加速計算的基礎設施(本地或云端)上運行,提供企業級的安全性、穩定性和支持。

隨著企業構建大規模多智能體系統,微服務已愈發普及。在多智能體系統中,數百個具有不同目標和工作流的專用智能體作為數字員工,協同處理復雜的任務,與員工并肩工作,實現跨職能的輔助工作并提升效率。

這種企業范圍的影響使 AI 智能體成為了一個價值萬億美元的商機,其應用涵蓋自動欺詐檢測、購物助手、預測性機器維護和文檔審查,同時也突顯了數據飛輪在將業務數據轉化為可操作見解方面的關鍵作用。

使用 NVIDIA NeMo 微服務構建的數據飛輪不斷整理數據、重新訓練模型并評估其性能,整個過程幾乎無需人工干預,實現了最大程度的自主性。

行業領導者通過 NVIDIA NeMo 微服務

提升 AI 智能體的準確性

NVIDIA 合作伙伴和行業領導者正在使用 NeMo 微服務構建響應式 AI 智能體平臺,以便數字團隊成員能夠幫助完成更多工作。

AT&T 與 Arize 和 Quantiphi 合作,使用 NVIDIA NeMo 構建了一個先進的 AI 智能體,用于處理包含近 10,000 份文檔且每周更新的知識庫。這款可擴展的高性能 AI 智能體針對三大關鍵業務重點進行了微調:速度、成本效益和準確性,隨著應用規模的擴大,其重要性與日俱增。

AT&T 使用 NeMo Customizer 和 Evaluator,通過微調 Mistral 7B 模型,將 AI 智能體的準確率提高了 40%,從而幫助提供個性化服務、防止欺詐并優化網絡性能。

貝萊德 (BlackRock) 正在其 Aladdin 技術平臺中應用 NeMo 微服務以實現代理式 AI 功能,該平臺通過通用數據語言統一投資管理流程。

思科 Outshift 團隊與 Galileo 一起使用 NVIDIA NeMo 微服務為編碼助手提供支持,可將工具選擇錯誤減少 40%,并將響應時間加快 10 倍。

納斯達克正在基于 NeMo Retriever 微服務和NVIDIA NIM微服務加速納斯達克生成式 AI 平臺。NeMo Retriever 增強了該平臺的搜索功能,使準確率和響應時間提高了 30%,并節省了成本。

NVIDIA NeMo 微服務

獲廣泛模型和合作伙伴生態系統支持

NeMo 微服務支持眾多主流的開放模型,包括 Llama、微軟 Phi 系列小語言模型、Google Gemma、Mistral 和NVIDIA Llama Nemotron Ultra,Llama Nemotron Ultra 是目前在科學推理、編碼和復雜數學基準測試中領先的開放模型。

Meta 已通過全新連接器 Meta Llamastack 接入 NVIDIA NeMo 微服務。用戶可以通過 API 訪問相同的功能,包括 NVIDIA Customizer、Evaluator 和 Guardrails,從而能夠在其環境中運行全套智能體構建工作流。

Meta GenAI 軟件工程師 Raghotham Murthy 表示:“通過 Llamastack 集成,智能體構建者可以應用由 NeMo 微服務驅動的數據飛輪,這使他們能夠持續優化模型,從而提高準確性、提升效率并降低總體擁有成本?!?/p>

Cloudera、Datadog、Dataiku、DataRobot、DataStax、SuperAnnotate、Weights & Biases 等領先的 AI 軟件提供商已將 NeMo 微服務集成到其平臺中。開發者可以在熱門 AI 框架 (包括 CrewAI、deepset 開發的 Haystack、LangChain、LlamaIndex 和 Llamastack) 中使用 NeMo 微服務。

企業可以使用 NVIDIA AI 數據平臺產品,通過 NeMo Retriever 微服務構建數據飛輪,這些產品來自企業級 NVIDIA 認證的存儲合作伙伴,包括 DDN、戴爾科技、慧與、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data 和 WEKA。

領先的企業平臺 (包括 Amdocs、Cadence、Cohesity、SAP、ServiceNow 和 Synopsys) 正在其 AI 智能體解決方案中使用 NeMo Retriever 微服務。

企業可以在 NVIDIA 加速的基礎架構、網絡和來自領先系統提供商(包括思科,戴爾科技,慧與和聯想)的軟件上運行 AI 智能體。

埃森哲、德勤、安永等咨詢類領先企業正在通過 NeMo 微服務為企業構建 AI 智能體平臺。

開發者可以從NVIDIA NGC目錄下載 NeMo 微服務。這些微服務可以作為 NVIDIA AI Enterprise 的一部分進行部署,提供長期穩定的軟件分支,以實現 API 的穩定性、主動安全修復和企業級支持。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5231

    瀏覽量

    105711
  • AI
    AI
    +關注

    關注

    87

    文章

    34063

    瀏覽量

    275190
  • 智能體
    +關注

    關注

    1

    文章

    259

    瀏覽量

    10942

原文標題:企業使用 NVIDIA NeMo 工具快速引入 AI 成員,以提高員工生產力

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    NVIDIA發布全新NIM AI Guardrail微服務

    ,致力于提升生成式AI應用的安全性、精準度和可擴展性。 這些微服務NeMo Guardrails為核心進行編排,充分利用了NVIDIA NeMo
    的頭像 發表于 01-18 11:48 ?688次閱讀

    NVIDIA NeMo Guardrails引入三項全新NIM微服務

    NVIDIA NeMo Guardrails 包含全新 NVIDIA NIM 微服務,能夠為各行業構建
    的頭像 發表于 01-18 09:39 ?578次閱讀

    NVIDIA 發布保障代理式 AI 應用安全的 NIM 微服務

    NVIDIA NeMo Guardrails 包含全新 NVIDIA NIM 微服務,能夠為各行業構建
    發表于 01-17 16:29 ?139次閱讀

    NVIDIA與合作伙伴推出代理式AI Blueprint

    開發者現在可以使用全新 NVIDIA AI Blueprint 構建和部署具備推理、規劃和行動能力的定制化 AI 智能
    的頭像 發表于 01-09 11:08 ?553次閱讀

    NVIDIA助力企業創建定制AI應用

    NVIDIA 近日宣布與眾多技術領導者一同使用最新NVIDIA NIM Agent Blueprint以及NVIDIA NeMoNVIDIA
    的頭像 發表于 11-20 09:12 ?627次閱讀

    NVIDIA助力Amdocs打造生成式AI智能

    正在使用NVIDIA DGX Cloud 與 NVIDIA AI Enterprise軟件開發和交付基于商用大語言模型(LLM)和領域適配模型的解決方案。該公司還在使用NVIDIA
    的頭像 發表于 11-19 14:48 ?752次閱讀

    日本企業借助NVIDIA產品加速AI創新

    日本領先企業和大學正在使用 NVIDIA NeMo、NIM 微服務NVIDIA Isaac 加速 A
    的頭像 發表于 11-19 14:34 ?781次閱讀

    借助NVIDIA Metropolis微服務構建視覺AI應用

    伴隨著視覺 AI 復雜性的增加,精簡的部署解決方案已成為優化空間和流程的關鍵。NVIDIA 能夠加快企業的開發速度,借助 NVIDIA Metropolis
    的頭像 發表于 09-09 09:46 ?642次閱讀
    借助<b class='flag-5'>NVIDIA</b> Metropolis<b class='flag-5'>微服務</b><b class='flag-5'>構建</b>視覺<b class='flag-5'>AI</b>應用

    NVIDIA 攜手全球合作伙伴推出 NIM Agent Blueprints,助力企業打造屬于自己的 AI

    NVIDIA AI Enterprise 平臺中的 NIM 微服務NeMo 框架構建和運行
    發表于 08-28 10:10 ?328次閱讀
    <b class='flag-5'>NVIDIA</b> 攜手全球合作伙伴推出 NIM Agent Blueprints,助力<b class='flag-5'>企業</b>打造屬于自己的 <b class='flag-5'>AI</b>

    全新NVIDIA NIM微服務將生成式AI引入數字環境

    生成式物理 AI NIM 微服務以及 NVIDIA Metropolis 參考工作流旨在協助創建智能的沉浸式工作環境。
    的頭像 發表于 08-02 15:20 ?816次閱讀

    全新 NVIDIA NeMo Retriever微服務大幅提升LLM的準確性和吞吐量

    企業能夠通過提供檢索增強生成功能的生產就緒型 NVIDIA NIM 推理微服務,充分挖掘業務數據的價值。這些微服務現已集成到 Cohesity、DataStax、NetApp 和 Sn
    的頭像 發表于 07-26 11:13 ?1168次閱讀
    全新 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>NeMo</b> Retriever<b class='flag-5'>微服務</b>大幅提升LLM的準確性和吞吐量

    NVIDIA攜手Meta推出AI服務,為企業提供生成式AI服務

    NVIDIA近日宣布了一項重大舉措,正式推出NVIDIA AI Foundry服務NVIDIA NIM(
    的頭像 發表于 07-25 16:57 ?765次閱讀

    英偉達推出全新NVIDIA AI Foundry服務NVIDIA NIM推理微服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務NVIDIA NIM 推理微服務
    的頭像 發表于 07-25 09:48 ?967次閱讀

    NVIDIA AI Foundry 為全球企業打造自定義 Llama 3.1 生成式 AI 模型

    Foundry 提供從數據策管、合成數據生成、微調、檢索、防護到評估的全方位生成式 AI 模型服務,以便部署自定義 Llama 3.1 NVIDIA NIM 微服務和新的
    發表于 07-24 09:39 ?845次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球<b class='flag-5'>企業</b>打造自定義 Llama 3.1 生成式 <b class='flag-5'>AI</b> 模型

    NVIDIA宣布全面推出 NVIDIA ACE 生成式 AI 微服務

    采用 NVIDIA 宣布全面推出 NVIDIA ACE 生成式 AI 微服務,以加速新一代數字人的發展,并將在平臺上推出全新的生成式
    的頭像 發表于 06-04 10:18 ?917次閱讀