在RTX 4090被限制的時代下，讓大模型使用RLHF更高效的方法來了

今年，以 ChatGPT 為首的大語言模型（Large Language Models, LLMs) 在各個方面大放光彩，由此引發(fā)了學(xué)術(shù)界和商業(yè)界對 G...

2023-10-22 標(biāo)簽：語言模型ChatGPT大模型 690 0

全球首顆清華憶阻器存算一體芯片究竟是個啥？

業(yè)界很多也都在研究相關(guān)的解決方案，以實現(xiàn)更為有效的數(shù)據(jù)運算和更大的數(shù)據(jù)吞吐量，其中“存算一體”被認為是未來計算芯片的架構(gòu)趨勢。它是把之前集中存儲在外面的...

2023-10-22 標(biāo)簽：芯片人工智能憶阻器 1050 0

算力不足和能效過低，有什么方法提高AI芯片的算力呢？

隨著ChatGPT強勢來襲，AI人工智能應(yīng)用層出不窮。智能化時代，數(shù)據(jù)量指數(shù)型增長，摩爾定律已經(jīng)不能滿足當(dāng)前的數(shù)據(jù)處理需求，元器件的物理尺寸已經(jīng)接近極限。

2023-10-22 標(biāo)簽：場效應(yīng)晶體管人工智能憶阻器 4627 0

基于樹莓派的機器人設(shè)計方案

準(zhǔn)備樹莓派和 CRICKIT Hat 1、如果你已經(jīng)安裝了 CRICKIT Hat 的 40 針連接器的轉(zhuǎn)接端子，請將其取下。 如果我們希望...

2023-10-19 標(biāo)簽：機器人散熱器3D打印 950 0

ChatGPT真的產(chǎn)生心智了嗎？ChatGPT是如何產(chǎn)生心智的？

來自斯坦福大學(xué)的最新研究結(jié)論，一經(jīng)發(fā)出就造成了學(xué)術(shù)圈的轟動，“原本認為是人類獨有的心智理論（Theory of Mind，ToM），已經(jīng)出現(xiàn)在ChatG...

2023-10-19 標(biāo)簽：編碼器GPT機器語言 1265 0

一款整合了ChatGPT的源IP掃描工具

由于該工具基于純Python 3開發(fā)，因此我們首先需要在本地設(shè)備上安裝并配置好Python 3環(huán)境。接下來，廣大研究人員可以使用下列命令將該項目源碼克隆至本地

2023-10-16 標(biāo)簽：漏洞數(shù)據(jù)集ChatGPT 974 0

ChatGPT是怎么實現(xiàn)的

ChatGPT 能夠自動生成類似于人類寫作的文本，這一點非常引人注目，也令人意外。但它是如何實現(xiàn)的？為什么它能夠如此出色地生成我們認為有意義的文本？我的...

2023-10-16 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)語言模型ChatGPT 1331 0

MI300X能否與H100一較高下？

市場研究公司Omdia近日發(fā)布報告稱，預(yù)計英偉達二季度用于AI和高性能計算應(yīng)用的H100 GPU的出貨量超過了900噸。并且預(yù)計其在未來幾個季度的GPU...

2023-09-28 標(biāo)簽：gpu英偉達AI芯片 1842 0

邊緣生成式人工智能推理技術(shù)現(xiàn)狀

為了彌補性能上的不足，領(lǐng)先的半導(dǎo)體公司使用大量最好的硬件處理器構(gòu)建系統(tǒng)。為此，他們在功耗、帶寬/延遲和成本之間進行了權(quán)衡。這種方法適用于算法訓(xùn)練，但不適...

2023-09-28 標(biāo)簽：處理器加速器AI 1274 0

重磅！OpenAI在ChatGPT內(nèi)推出語言和圖像功能

語音和圖像為用戶在生活中使用 ChatGPT 提供了更多方式。旅行時，拍下地標(biāo)性建筑的照片，然后就它的有趣之處進行實時對話。當(dāng)您在家時，拍下冰箱和儲藏室...

2023-09-26 標(biāo)簽：模型OpenAIChatGPT 765 0

華為提出Sorted LLaMA：SoFT代替SFT，訓(xùn)練多合一大語言模型

而這一切的背后，是一項名為Sorted Fine-Tuning（SoFT）的新訓(xùn)練技術(shù)。SoFT讓我們可以在一個訓(xùn)練周期內(nèi)產(chǎn)出多個子模型，無需任何額外的...

2023-09-26 標(biāo)簽：華為模型語言模型 1032 0

GPGPU和NPU技術(shù)路線對比

FPGA是一種半定制芯片，對芯片硬件層可以靈活編譯。但是缺點也比較明顯，當(dāng)處理的任務(wù)重復(fù)性不強、邏輯較為復(fù)雜時，F(xiàn)PGA效率就會比較差。

2023-09-26 標(biāo)簽：fpga神經(jīng)網(wǎng)絡(luò)NVIDIA 5401 0

全文詳解ChatGPT 的工作原理及作用

值得指出的是，即使在第一步，也有很多可能的 “下一個詞” 可供選擇（溫度為 0.8），盡管它們的概率下降得很快（是的，這個對數(shù)圖上的直線對應(yīng)于 n-1 ...

2023-09-26 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)人工智能神經(jīng)元 1588 0

中國GenAI市場現(xiàn)狀和未來趨勢

隨著ChatGPT的火爆出圈，GenAI成為各行各業(yè)關(guān)注和熱議的話題。全球科技巨頭和AI廠商紛紛下場，唯恐錯過此番科技盛宴。行業(yè)翹楚和媒體將GenAI浪...

2023-09-26 標(biāo)簽：gpuAI圖形處理器 1772 0

深度學(xué)習(xí)模型部署與優(yōu)化：策略與實踐；L40S與A100、H100的對比分析

深度學(xué)習(xí)、機器學(xué)習(xí)、生成式AI、深度神經(jīng)網(wǎng)絡(luò)、抽象學(xué)習(xí)、Seq2Seq、VAE、GAN、GPT、BERT、預(yù)訓(xùn)練語言模型、Transformer、Cha...

2023-09-22 標(biāo)簽：AI模型深度學(xué)習(xí) 1452 0

Chiplet是什么？Chiplet、 SoC、SiP的區(qū)別在哪？

當(dāng)一項顛覆性技術(shù)問世的時候，誰能搶占先機占領(lǐng)制高點，誰就擁有了霸權(quán)力量。

2023-09-22 標(biāo)簽：存儲器SoC芯片人工智能技術(shù) 1.1萬 0

晶圓代工各家的優(yōu)勢與劣勢分別是什么？

在實際應(yīng)用中，由于其穩(wěn)定的良率也使其收獲了多筆來自三星等其他代工廠的訂單。比如在10nm和7nm制程剛剛量產(chǎn)的時候，高通和英偉達就分別把驍龍855、86...

2023-09-21 標(biāo)簽：處理器高通晶圓代工 1257 0