“Writer”利用 NVIDIA AI 軟件構建的大語言模型（LLM）幫助數百家公司創建內容。

機器學習幫助 Waseem Alshikh 在大學里讀完了課本。如今，他正在利用生成式 AI 為數百家公司創建內容。

在敘利亞出生和長大的 Alshikh 不會說英語，但他精通軟件。他在黎巴嫩上大學期間，將這一天賦發揮得淋漓盡致。

他回憶道：“第一天他們就給了我一摞課本，每本都有上千頁厚，而且全是用英語寫的。”

于是，他編寫了一個粗糙但有效的統計分類器程序來生成這些課本的內容摘要，然后進行學習。

從提出概念到創業

2014 年，他向在迪拜工作時結識的企業家 May Habib 分享了自己的故事。他們一拍即合，決定創辦一家初創企業，幫助總是要求“事半功倍”的營銷部門利用機器學習快速創建網頁、博客、廣告等內容。

Alshikh 在該初創企業擔任首席技術官。他表示：“最初我們無法實現這種技術。直到 Transformer 模型發布后，我們才基于此構建了這種技術。”

Writer 聯合創始人、首席執行官 Habib

和首席技術官 Alshikh

“我們找了幾位工程師，花了近六個月的時間建立了我們的第一個模型。這是一個幾乎無法運行的神經網絡，擁有約 1.28 億個參數。”參數數量是衡量 AI 模型能力的常用指標。

一路走來，這家年輕的公司逐漸贏得了一些業務，更名為 Writer，并與 NVIDIA 建立了聯系。

駛入快車道

他表示：“在開始使用 NVIDIA NeMo 后，我們就能夠建立行業級模型了，參數量從 30 億個增加到 200 億個，再到現在的 400 億個，而且還在不斷擴大。”

NeMo 是一個可以幫助企業整理其訓練數據集、構建和定制大語言模型（LLM），并在生產中大規模運行這些模型的應用框架。從韓國到瑞典，世界各地的企業都在使用它來定制本地語言和行業的大語言模型（LLM）。

Alshikh 表示：“在使用 NeMo 之前，我們需要四個半月的時間來構建一個新的十億級參數模型。而現在我們只需要 16 天就能完成，這真令人難以置信。”

模型帶來機遇

今年上半年，這家初創企業不到 20 名的 AI 工程師團隊利用 NeMo 開發了 10 個模型，每個模型都有超過 300 億個或更多的參數。

這帶來了巨大的機遇。現在，已經有數百家企業在使用 NeMo 為金融、醫療、零售和其他垂直市場定制的 Writer 模型。

Writer 的 Recap 工具可根據采訪

或活動錄音制作書面摘要

這家初創企業的客戶包括德勤、歐萊雅、財捷、優步等家喻戶曉的 500 強企業。

Writer 使用 NeMo 取得的成功僅僅是故事的開始。目前，已經有數十家其他公司下載了 NeMo。

這款包含在 NVIDIA AI Enterprise 中的軟件將很快可供使用。NVIDIA AI Enterprise 是一套專為加速生成式 AI 工作負載而優化，并以企業級支持、安全性和應用編程接口穩定性為保障的全棧式軟件。

Writer 為企業用戶提供全棧式平臺

每月一萬億次 API 調用

一些客戶在自己的系統或云服務上運行 Writer 的模型，另一些客戶則要求 Writer 托管模型或者使用 Writer 的 API。

Alshikh 表示：“我們的云基礎設施基本上由兩個人管理，每月托管的 API 調用達萬億次，每秒生成 90,000 個單詞。我們提供的高質量模型可以與團隊規模更大、預算更多的公司所提供的產品相媲美。”

NVIDIA NeMo 支持從數據整理

一直到推理的整個端到端生成式 AI 流程

Writer 使用與 NeMo 打包在一起的 Triton 推理服務器為其客戶在生產中運行模型。Alshikh 表示，許多運行 LLM 的公司都在使用 Triton。與其他程序相比，Triton 可實現更低的延遲和更高的吞吐量。

“這意味著你可以將運行一些服務的成本從 10 萬美元減少到 2 萬美元，這樣就能夠投入更多資金構建有意義的功能。” Alshikh 說道。

廣闊的視野

Writer 還是 NVIDIA 初創加速計劃（https://www.nvidia.cn/startups/）的成員，該計劃旨在培育前沿初創企業。Alshikh 表示：“多虧了 NVIDIA 初創加速計劃，我們才有機會盡早使用 NeMo，還有一些了不起的人指導我們如何尋找和使用所需的工具。”

如今，Writer 的文本產品已經開始受到關注，Alshikh 在佛羅里達州和加利福尼亞州兩地奔波，探尋接下來的發展方向。在生成式 AI 這片廣闊的“疆域”，他看到了圖像、音頻、視頻、3D 等領域的機遇，而且這些機遇可能會同時出現。

他表示：“我們認為多模態是未來的趨勢”。

在此頁面（https://developer.nvidia.com/nemo）了解如何開始使用 NeMo。訪問此頁面（https://developer.nvidia.com/nemo-framework-open-beta）了解多模態 NeMo 的搶先體驗計劃。

如果您喜歡這篇文章，請使用以下 Writer 建議的摘要轉發給社交網絡上的朋友：

“了解初創企業 Writer 如何利用 NVIDIA NeMo 軟件為數百家公司生成內容，并以少量人員和預算獲得可觀的收入。”

SIGGRAPH 2023

NVIDIA 精彩發布

【1】SIGGRAPH 主題演講：NVIDIA 首席執行官帶來生成式 AI 多項創新 SIGGRAPH 2023 | NVIDIA 發布新一代 GH200 Grace Hopper 超級芯片平臺 SIGGRAPH 2023 | NVIDIA 發布支持生成式 AI 與 OpenUSD 的重大 Omniverse 升級 SIGGRAPH 2023 | NVIDIA Omniverse 開啟通往 OpenUSD 廣闊天地的大門 SIGGRAPH 2023 | NVIDIA 與全球數據中心系統制造商大力推動 AI 與工業數字化的發展 SIGGRAPH 2023 | NVIDIA 與全球工作站廠商共同推出用于生成式 AI、LLM 開發、內容創作和數據科學的系統 SIGGRAPH 2023 | NVIDIA AI Workbench 助力全球企業加速采用自定義生成式 AI SIGGRAPH 2023 | NVIDIA 與 Hugging Face 將連接數百萬開發者與生成式 AI 超級計算

更多精彩，仍在繼續...

敬請持續關注

點擊“閱讀原文”，或掃描下方海報二維碼，觀看 NVIDIA 創始人兼 CEO 黃仁勛在 SIGGRAPH 現場發表的 NVIDIA 主題演講回放，了解 NVIDIA 的新技術，包括屢獲殊榮的研究，OpenUSD 開發，以及最新的 AI 內容創作解決方案。