近期,市場研究機構LightCounting (以下簡稱LC)發布了主題為“人工智能光學”的新報告。報告指出人工智能在眨眼之間就已嶄露頭角。LC 的首份《人工智能光學》報告強調了人工智能如何改變計算機架構和網絡,而光學在其中發揮著關鍵作用。LC的人工智能預測側重于光學。但是,該機構稱如果再加上一條預測,那就是:光學不僅將在人工智能系統的發展中發揮重要作用,而且人工智能將越來越多地在晶體管、芯片和系統層面為這些系統的設計做出貢獻。
整個行業的創新速度各不相同。新應用的開發速度很快。其中大多數會失敗,但也有一些會成功,似乎一夜之間就能改變世界。軟件和人工智能算法的創新速度之快超出了我們的想象。至少在外部觀察者看來是這樣,但專家們可能不這么認為。
硬件領域的創新則是一個更為漸進卻又無情的過程。光連接也不例外,對此有可靠的數據參考。硅光子技術的應用花了十年時間,都在等待這項技術帶來真正顛覆性的解決方案,如可靠的協同封裝光學技術。毫無疑問,這種情況將在本十年末出現,但本報告的預測重點是部署在人工智能集群中的可插拔光模塊--這是當前和未來五年光連接的主要解決方案。
目前,90% 以上部署在人工智能集群中的光模塊用于 InfiniBand 和以太網連接。如下圖所示,NVLink 連接到 GPU 所需的帶寬是以太網和 InfiniBand 的 4 倍。人工智能集群設計的另一個瓶頸是 GPU 可用的高帶寬內存(HBM)有限,這也是帶寬提高 3 倍的另一個因素。

事實證明,光交換機可以用來擴展和重新配置其人工智能集群并以此提高集群性能,同時最大限度地降低成本和功耗。該研究機構預計,在未來 3-5 年內,將有更多公司采用這項技術。
人工智能集群中應用的光學需求規模是 2023 年的一個驚喜,同時ChatGTP 在 2022 年底成為頭條新聞的時機尤為重要。對即將到來的經濟衰退的擔憂和收入增長下降的初步跡象迫使所有領先的云計算公司削減開支,包括對數據中心的投資和光模塊的采購。2024-2025 年的強勁增長毋庸置疑。
大型網絡設備制造商業務的增長是影響 2023-2025 年光模塊銷量的主要因素。人工智能集群的新設計需要更多的光模塊。以前的所有系統都只使用 InfiniBand 網絡進行光連接,而且這些系統大多是 AOC。基于 NDR(400G)InfiniBand 的最新系統使用可插拔的 400/800G SR4/SR8 和 DR4/DR8 光模塊,而不是 AOC。該公司還于 2022 年 3 月發布了專為 800G 光連接設計的 NVLink 機箱交換機。該公司目前正在內部測試光纖 NVLink,但這些解決方案應在 2024 年底前提供給最終用戶。如果需要更長的時間,LC稱將不得不降低對 2025-2029 年的預測。

本報告首次對大型網絡設備制造商提供的光模塊進行了預測,并將其與 AI 集群中使用的其他光模塊進行了比較。該制造商設計的光模塊具有更嚴格的誤碼率規范,以最大限度地減少傳輸誤差。這并不妨礙客戶使用第三方光學器件,但不能保證系統性能。LC預計,終端用戶最終將過渡到使用第三方光學器件,以節省成本,但這將是一個逐步過渡的過程。
審核編輯 黃宇
-
人工智能
+關注
關注
1804文章
48677瀏覽量
246292 -
光模塊
+關注
關注
80文章
1376瀏覽量
60012 -
光學器件
+關注
關注
1文章
149瀏覽量
12159
發布評論請先 登錄
ASIC集成電路在人工智能中的應用
soc在人工智能中的創新應用
《AI for Science:人工智能驅動科學創新》第6章人AI與能源科學讀后感
AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感
《AI for Science:人工智能驅動科學創新》第二章AI for Science的技術支撐學習心得
《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得
risc-v在人工智能圖像處理應用前景分析
人工智能ai4s試讀申請
名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅動科學創新
報名開啟!深圳(國際)通用人工智能大會將啟幕,國內外大咖齊聚話AI
激光封裝技術在人工智能發展中的作用

評論