Kinar于近期發布了Ara-2邊緣AI處理器，這是一款專為邊緣服務器及筆記本電腦打造的高性能、高效能且節能推理解決方案，尤其適用于視頻分析、大規模語言模型（LLM）在內的各類AI應用。值得注意的是，Ara-2也能夠良好適應傳統AI模型和基于Transformer架構的尖端AI模型，其所具備的體驗式增強功能集使得Ara-2的性能較初代的Ara-1處理器有顯著提升，可達成超過5至8倍的增長，將實時響應能力與大吞吐量相結合，從而達致高度精煉的延遲優化設計和均衡性能。

生成式AI現已成為主流，然而大多數此類應用卻在數據中心的GPU上運行，由此引發的延遲、高成本以及隱私問題亟待解決。Ara-2順應時代變化，貼心支持生成式AI模型所需引導的數十億個參數，為跨境轉移提供便利。同時，為了更順暢地完成從GPU至各個AI模型的過度，其內建的計算引擎以及軟件開發套件（SDK）均為此進行定制搭建。

“Ara-2的誕生使得我們有能力根據客戶需求提供更高性能和成本選擇。如Ara-1，其專為智能相機及具有2至8路視頻流的邊緣AI設備而生；而Ara-2則特別擅長處理針對16至32路甚至更多視頻流的底層邊緣服務器或筆記本電腦，且與高端相機完美兼容?！?Kinara首席執行官Ravi Annavajjhala對此表示?！敖柚冗M的計算引擎，Ara-2能夠快速處理高清圖像，有效提升精度，實現更高水平的對象檢視、識別及追蹤。例如，針對生成式AI模型，Stable Diffusion每10秒即可生成一幅圖片，LLaMA-7B則可達到每秒幾十個token的處理速率?！?/p>

據悉，Ampere將在10月份容忍Kinar加入其人工智能平臺聯盟，共同致力于降低系統復雜度，推動人工智能進一步提升協同工作能力和開放性，目標在于提供比GPU更優的總體性能，同時兼顧吞吐量、功率和成本效益。該團隊的首席布道師Sean Varley認為：“ ARA-2展現的性能和功能集讓我堅定朝這個方向發展，助力行業推出性能更優且與現有GPU技術相匹敵的AI替代方案?！?/p>

除此之外，Ara-2還秉持著安全啟動、加密內存訪問以及安全主控接口等特性，確保企業AI部署擁有更高的安全性。Kinar亦為之提供全套的SDK支持，囊括模型編譯器、計算單元調度程序、靈活的量化選項（含內置的Kinar量化器）以及對PyTorch和TFLite預量化模型的支持、多芯片負荷均衡器系統與動態調節主控運行等諸多要素。

Ara-2提供獨立設備、USB模塊、M.2模塊以及多個Ara-2組成的PCIe卡等豐富形式供消費者選擇。 Kinara計劃在CES上現場展示這款備受矚目的Ara-2產品。