女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

人工智能和深度學習的對象存儲挑戰

存儲D1net ? 來源:企業網D1Net ? 2020-06-13 11:06 ? 次閱讀

對象存儲非常適合長期備份和歸檔,如何將高性能對象存儲擴展到大規模、高容量的工作負載,人們對此需要進行了解。

對象存儲最有趣的方面之一是其用途的多樣性。盡管對象存儲通常用作歸檔存儲區、原有數據的目的地,以及文件服務器的替代品,但實際上有許多方法可以應用對象存儲。隨著供應商開始提供性能優化的對象存儲,該技術已經為用于一組全新的工作負載準備就緒。

高性能對象存儲不僅僅需要從基于硬盤的對象存儲系統切換到全閃存對象存儲。向全閃存介質的遷移無疑會有所幫助,但是對象存儲系統(很大程度上要歸功于其豐富的元數據)通常具有太多延遲,無法有效利用閃存性能。

創建高性能對象存儲系統的另一個挑戰是基礎設施的橫向擴展特性。為了滿足容量需求,對象存儲將大量節點添加到存儲集群中。每個節點的容量都被吸收到集群中,從而創建一個存儲池。在大型橫向擴展集群中,具有數十個節點都是比較常見的。聚合和管理這些節點的等待時間可能很長。

人工智能深度學習的對象存儲挑戰

非結構化的大型數據工作負載(例如人工智能和機器學習以及深度學習)是對象存儲架構如何成為高性能工作負載的一個很好的例子。理論上,這些工作負載對于對象存儲而言應該是理想的。它們擁有數百萬甚至數十億個文件,而存儲所有這些數據需要大量的SSD硬盤或HDD硬盤,因此需要許多節點。這些過程也是受吞吐量驅動的。

所有這些因素的結合使人工智能和深度學習針對對象存儲的高節點數存儲集群量身定制。大多數與人工智能通信的框架(例如TensorFlow)用于驅動人工智能和機器學習工作負載,它們都使用Amazon S3協議。大多數對象存儲系統也是基于S3存儲桶,并且S3存儲桶本身是高度并行的。從理論上講,對象存儲基礎設施應該能夠滿足人工智能和機器或深度學習工作負載的需求。

但是,此方法不僅僅需要創建一個全閃存對象存儲系統。該系統必須能夠解決這樣一個問題,即可能會有數十個(即使不是數百個)節點,而元數據以及集群管理也帶來了挑戰。

應對元數據挑戰

元數據是關于數據的數據,它對高性能對象存儲帶來了挑戰,其原因有兩個:第一個挑戰是,對象存儲系統需要更多時間來管理其豐富的元數據。由于大多數對象存儲供應商會在集群中指定一定數量的節點來管理和存儲元數據,因此管理更加復雜。在人工智能和深度學習等工作負載中,專用的元數據控制器通常不堪重負,并成為系統瓶頸。因此,閃存驅動器甚至硬盤無法充分發揮其潛力。

第二個挑戰是集群通信。大多數橫向擴展NAS或塊存儲系統的節點數都比較少。在網絡附屬存儲(NAS)和塊用例中,擁有六個節點的存儲集群被認為是大型的存儲系統,但在許多對象存儲部署中,六個節點只是一個入門級別。而節點間的通信成為一個大問題,尤其是在不涉及性能的歸檔的用例中。

要創建高性能的大規模對象存儲解決方案,需要解決元數據性能和集群管理問題。下一代對象存儲將元數據分布在集群中的每個節點上,而不僅僅是幾個控制器。元數據的分布可確保每個節點都具有響應I/O請求所需的所有信息。

其他高性能對象存儲問題

對象存儲系統還必須解決節點間聯網的問題。元數據的分布在這里有所幫助,因為它減少了東西流向的流量。供應商必須優化其節點間網絡,因此它不會成為性能瓶頸。它們極有可能必須優化網絡通信,以最大程度地減少傳輸頻率。

需要優化的另一個領域是協議仿真。例如,大多數對象存儲系統都支持網絡文件系統(NFS)。網絡文件系統(NFS)的支持至關重要,因為許多物聯網設備不是內部部署S3存儲桶,而是使用網絡文件系統(NFS)。其挑戰在于,許多對象存儲系統都使用一個單獨的組件在網絡文件系統(NFS)和S3存儲桶之間進行轉換,而不是在其軟件中內部部署運行網絡文件系統(NFS)。其轉移的開銷很大,并且在高性能情況下會顯示出來。

網絡文件系統(NFS)在對象存儲代碼中的原生集成可實現更高的性能,并同時訪問相同的數據。并發訪問意味著物聯網設備可以通過網絡文件系統(NFS)將數據發送到對象存儲卷,同時人工智能或深度學習框架可以通過S3存儲桶對象對其進行處理,而無需對其進行復制或移動。

NAS適用的位置

網絡附屬存儲(NAS)系統仍在數據中心中發揮作用。對象存儲是長期歸檔和備份的理想選擇,雖然大容量網絡附屬存儲(NAS)仍可以在備份存儲市場上競爭。對象存儲還適合作為文件服務器的替代品,以替代性能不太重要的工作負載(例如用戶主目錄)。

高性能對象存儲非常適合需要數十或數百個節點以及數十PB容量的大規模工作負載。這些工作負載還取決于吞吐量,并且在I/O訪問中高度并行。在這兩個極端之間是高性能、非結構化的數據工作負載,這些工作負載本質上是隨機I/O,節點數量很少。在這些用例中,網絡附屬存儲(NAS)可能仍然是一個更好的選擇。

版權聲明:本文為企業網D1Net編譯,轉載需注明出處為:企業網D1Net,如果不注明出處,企業網D1Net將保留追究其法律責任的權利。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 人工智能
    +關注

    關注

    1804

    文章

    48737

    瀏覽量

    246664
  • 對象存儲
    +關注

    關注

    0

    文章

    69

    瀏覽量

    12206
  • 深度學習
    +關注

    關注

    73

    文章

    5555

    瀏覽量

    122498

原文標題:現代數據中心高性能對象存儲面臨的挑戰

文章出處:【微信號:D1Net11,微信公眾號:存儲D1net】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    軍事應用中深度學習挑戰與機遇

    人工智能尤其是深度學習技術的最新進展,加速了不同應用領域的創新與發展。深度學習技術的發展深刻影響了軍事發展趨勢,導致戰爭形式和模式發生重大變
    的頭像 發表于 02-14 11:15 ?451次閱讀

    人工智能和機器學習以及Edge AI的概念與應用

    人工智能相關各種技術的概念介紹,以及先進的Edge AI(邊緣人工智能)的最新發展與相關應用。 人工智能和機器學習是現代科技的核心技術 人工智能
    的頭像 發表于 01-25 17:37 ?833次閱讀
    <b class='flag-5'>人工智能</b>和機器<b class='flag-5'>學習</b>以及Edge AI的概念與應用

    嵌入式和人工智能究竟是什么關系?

    、連接主義和深度學習等不同的階段。目前,人工智能已經廣泛應用于各種領域,如自然語言處理、計算機視覺、智能推薦等。 嵌入式系統和人工智能在許
    發表于 11-14 16:39

    人工智能、機器學習深度學習存在什么區別

    人工智能指的是在某種程度上顯示出類似人類智能的設備。AI有很多技術,但其中一個很大的子集是機器學習——讓算法從數據中學習
    發表于 10-24 17:22 ?2786次閱讀
    <b class='flag-5'>人工智能</b>、機器<b class='flag-5'>學習</b>和<b class='flag-5'>深度</b><b class='flag-5'>學習</b>存在什么區別

    《AI for Science:人工智能驅動科學創新》第6章人AI與能源科學讀后感

    、優化等方面的應用有了更清晰的認識。特別是書中提到的基于大數據和機器學習的能源管理系統,通過實時監測和分析能源數據,實現了能源的高效利用和智能化管理。 其次,第6章通過多個案例展示了人工智能在能源科學中
    發表于 10-14 09:27

    AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感

    很幸運社區給我一個閱讀此書的機會,感謝平臺。 《AI for Science:人工智能驅動科學創新》第4章關于AI與生命科學的部分,為我們揭示了人工智能技術在生命科學領域中的廣泛應用和深遠影響。在
    發表于 10-14 09:21

    《AI for Science:人工智能驅動科學創新》第二章AI for Science的技術支撐學習心得

    人工智能在科學研究中的核心技術,包括機器學習深度學習、神經網絡等。這些技術構成了AI for Science的基石,使得AI能夠處理和分析復雜的數據集,從而發現隱藏在數據中的模式和規
    發表于 10-14 09:16

    《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得

    人工智能:科學研究的加速器 第一章清晰地闡述了人工智能作為科學研究工具的強大功能。通過機器學習深度學習等先進技術,AI能夠處理和分析海量
    發表于 10-14 09:12

    risc-v在人工智能圖像處理應用前景分析

    人工智能推薦系統中強大的圖形處理器(GPU)一爭高下。其獨特的設計使得該處理器在功耗受限的條件下仍能實現高性能的圖像處理任務。 Ceremorphic公司 :該公司開發的分層學習處理器結合了
    發表于 09-28 11:00

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅動科學創新

    、污染治理、碳減排三個方面介紹了人工智能為環境科學引入的新價值和新機遇。 第8章探討了AI for Science在快速發展過程中面臨的機遇和挑戰,并對“平臺科研”模式進行了展望。 申請時間
    發表于 09-09 13:54

    報名開啟!深圳(國際)通用人工智能大會將啟幕,國內外大咖齊聚話AI

    ,得到了華為、騰訊、優必選、中煤科工、中國聯通、云天勵飛、考拉悠然、智航、力維智聯等國內人工智能企業的深度參與和大力支持。 報名后即可到現場領取禮品,總計5000份,先到先選! 點擊報名:https://bbs.elecfans.com/jishu_2447254_1
    發表于 08-22 15:00

    FPGA在人工智能中的應用有哪些?

    FPGA(現場可編程門陣列)在人工智能領域的應用非常廣泛,主要體現在以下幾個方面: 一、深度學習加速 訓練和推理過程加速:FPGA可以用來加速深度
    發表于 07-29 17:05

    深度學習算法在嵌入式平臺上的部署

    隨著人工智能技術的飛速發展,深度學習算法在各個領域的應用日益廣泛。然而,將深度學習算法部署到資源受限的嵌入式平臺上,仍然是一個具有
    的頭像 發表于 07-15 10:03 ?2815次閱讀

    人工智能、機器學習深度學習是什么

    在科技日新月異的今天,人工智能(Artificial Intelligence, AI)、機器學習(Machine Learning, ML)和深度學習(Deep Learning,
    的頭像 發表于 07-03 18:22 ?2554次閱讀

    人工智能深度學習的五大模型及其應用領域

    隨著科技的飛速發展,人工智能(AI)技術特別是深度學習在各個領域展現出了強大的潛力和廣泛的應用價值。深度學習作為人工智能的一個核心分支,通過
    的頭像 發表于 07-03 18:20 ?6371次閱讀