谷歌在全新OpenGL?ES?3.1中新增了計算著色器Compute?Shader
谷歌近日為其Android上的TensorFlow框架開發(fā)了新的基于OpenCL的移動GPU推理引擎，與現(xiàn)有的OpenGL后端相比，新的推理引擎速度是前者的2倍。
OpenGL是一種渲染圖形API，其應(yīng)用已近30年之久，目前常用的GPU推理引擎均是以O(shè)penGL開發(fā)。雖然在?OpenGL?ES?3.1中新增了計算著色器Compute?Shader，但TensorFlow團隊表示，向后兼容的設(shè)計限制了GPU的運算能力。
而OpenCL從一開始就是為使用各種計算加速而設(shè)計的，因此更為適合移動GPU推理領(lǐng)域。這促使TensorFlow團隊對基于OpenCL的移動推理引擎進行了考察，并最終決定采用該引擎。TFLite開發(fā)團隊提到，與OpenGL相比，最佳化OpenCL后端要簡單許多，因為OpenCL提供良好的分析功能，利用概要分析API，開發(fā)團隊能夠精確地量測核心調(diào)度效能。
值得一提的是，這一推理引擎具有完整的效能分析功，也就是說優(yōu)化器會選擇適合大小的神經(jīng)網(wǎng)絡(luò)工作組以提高GPU的效率。且原生支持FP16，即使在比較老舊的GPU硬件上，如2012年的Adreno?305也可完美發(fā)揮出GPU的效能。
責(zé)任編輯:pj
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
谷歌
+關(guān)注
關(guān)注
27文章
6223瀏覽量
107494 -
gpu
+關(guān)注
關(guān)注
28文章
4909瀏覽量
130633 -
硬件
+關(guān)注
關(guān)注
11文章
3459瀏覽量
67179
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
JAE JB12系列緊湊型以太網(wǎng)防水連接器新增角型插頭
近期，日本航空電子工業(yè)（JAE）在其符合 IEC 標(biāo)準(zhǔn)的緊湊型以太網(wǎng)防水連接器 JB12 系列（M12 X-code）中新增了角型插頭。
貿(mào)澤開售適用于AI和嵌入式應(yīng)用的 全新Raspberry Pi Compute Module 5
醫(yī)療監(jiān)控和其他嵌入式應(yīng)用的功能。 ? Raspberry Pi CM5搭載了BCM2712四核Cortex? -A76 (Arm? v8) 64位片上系統(tǒng) (SoC) 和VideoCore VII GPU，并支持OpenGL ES
發(fā)表于 03-24 15:09
?160次閱讀
摩爾線程完成DeepSeek開源庫FlashMLA和DeepGEMM適配
自DeepSeek啟動“開源周”以來，已陸續(xù)開源三個代碼庫。摩爾線程基于全新MUSA Compute Capability 3.1計算架構(gòu)，可提供原生FP8
谷歌全新量子計算芯片Willow帶來的挑戰(zhàn)
近期Google宣布了其全新的量子計算芯片Willow。這款芯片在不到5分鐘完成一項標(biāo)準(zhǔn)計算，而如今最快的超級計算機完成同樣的任務(wù)，足足要花
Triton編譯器在高性能計算中的應(yīng)用
先進的編譯技術(shù)，為高性能計算提供了強大的支持。 Triton編譯器簡介 Triton編譯器是一種開源的編譯器框架，旨在為異構(gòu)
谷歌量子芯片實現(xiàn)計算領(lǐng)域重大突破
近日，全球科技巨頭谷歌宣布，其新一代芯片在量子計算領(lǐng)域取得了前所未有的重大突破。據(jù)悉，谷歌成功地在短短五分鐘內(nèi)解決了一個傳統(tǒng)
谷歌在芬蘭購地擴建云計算與數(shù)據(jù)中心
谷歌公司近日發(fā)布聲明，宣布在芬蘭卡亞尼和穆霍斯兩地購買土地，作為其擴建云計算和數(shù)據(jù)中心基礎(chǔ)設(shè)施計劃的重要一步。此次購地行動標(biāo)志著谷歌在芬蘭的
《算力芯片 高性能 CPUGPUNPU 微架構(gòu)分析》第3篇閱讀心得：GPU革命：從圖形引擎到AI加速器的蛻變
場景精確投射到2D平面；最后在像素著色階段完成材質(zhì)渲染和光照明細(xì)處理。DirectX API的迭代推動了可編程著色器的發(fā)展，解放了GPU的通用計算潛能。特別是像素
發(fā)表于 11-24 17:12
英偉達與谷歌聯(lián)手加速量子計算設(shè)備設(shè)計
近日，據(jù)外媒最新報道，英偉達與谷歌兩大科技巨頭宣布攜手合作，共同加速下一代量子計算設(shè)備的設(shè)計進程。 雙方在一份聯(lián)合聲明中透露，谷歌的量子人工
英偉達攜手谷歌，共筑量子計算新篇章
近期，英偉達與Alphabet旗下的谷歌公司宣布了一項令人矚目的合作計劃——共同設(shè)計量子計算處理器。這一合作標(biāo)志著兩大科技巨頭在量子
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--了解算力芯片GPU
著色器(Pixel shader)是圖形流水線中算力相當(dāng)強大的功能單元，因為它可以為每個片段執(zhí)行復(fù)雜的計算，從而為最終渲染的圖像添加細(xì)節(jié)和視覺效果。
DirectX API推動 GPU
發(fā)表于 11-03 12:55
邊沿觸發(fā)器在計算機中的應(yīng)用
邊沿觸發(fā)器在計算機中的應(yīng)用極為廣泛，它們作為數(shù)字電路中的基本單元，對于實現(xiàn)計算機內(nèi)部的時序控制、數(shù)據(jù)存儲與傳輸、以及復(fù)雜邏輯功能等方面起著至
谷歌Chrome瀏覽器新增三大AI功能，提升用戶體驗
谷歌近日宣布，在其廣受歡迎的Chrome瀏覽器中引入了三項前沿的AI技術(shù)功能，旨在為用戶提供更加智能、便捷的瀏覽體驗。這些新功能由Gemini技術(shù)強力驅(qū)動，目前已在Chrome桌面版上線，標(biāo)志著
Meta發(fā)布全新開源大模型Llama 3.1
科技巨頭Meta近期震撼發(fā)布了其最新的開源人工智能（AI）模型——Llama 3.1，這一舉措標(biāo)志著Meta在AI領(lǐng)域的又一重大突破。Meta創(chuàng)始人馬克·扎克伯格親自站臺，盛贊Llama 3.
DRAM在計算機中的應(yīng)用
DRAM（Dynamic Random Access Memory，動態(tài)隨機存取存儲器）在計算機系統(tǒng)中扮演著至關(guān)重要的角色。它是一種半導(dǎo)體存儲器
工商網(wǎng)監(jiān)
評論