女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Linkis成為做數據平臺的利器

數據分析與開發 ? 來源:大數據技術與架構 ? 作者:大數據技術與架構 ? 2021-10-08 16:19 ? 次閱讀

微眾銀行開源項目Linkis正式通過Apache軟件基金會(ASF)的投票表決,全票通過進入ASF孵化器!

Linkis簡介

Linkis 在上層應用程序和底層引擎之間構建了一層計算中間件。通過使用Linkis 提供的REST/WebSocket/JDBC 等標準接口,上層應用可以方便地連接訪問MySQL/Spark /Hive/Presto/ Flink 等底層引擎,同時實現變量、腳本、函數和資源文件等用戶資源的跨上層應用互通。作為計算中間件,Linkis 提供了強大的連通、復用、編排、擴展和治理管控能力。通過計算中間件將應用層和引擎層解耦,簡化了復雜的網絡調用關系,降低了整體復雜度,同時節約了整體開發和維護成本。Linkis 自2019年開源發布以來,已累計積累了700多家試驗企業和1000+沙盒試驗用戶,涉及金融、電信、制造、互聯網等多個行業。許多公司已經將Linkis 作為大數據平臺底層計算存儲引擎的統一入口,和計算請求/任務的治理管控利器。

核心特點

豐富的底層計算存儲引擎支持目前支持的計算存儲引擎:Spark、Hive、Python、Presto、ElasticSearch、MLSQL、TiSpark、JDBC和Shell等。正在支持中的計算存儲引擎:Flink、Impala等。支持的腳本語言:SparkSQL, HiveQL, Python, Shell, Pyspark, R, Scala 和JDBC 等。

強大的計算治理能力基于Orchestrator、Label Manager和定制的Spring Cloud Gateway等服務,Linkis能夠提供基于多級標簽的跨集群/跨IDC 細粒度路由、負載均衡、多租戶、流量控制、資源控制和編排策略(如雙活、主備等)支持能力。全棧計算存儲引擎架構支持能夠接收、執行和管理針對各種計算存儲引擎的任務和請求,包括離線批量任務、交互式查詢任務、實時流式任務和存儲型任務;資源管理能力。ResourceManager 不僅具備 Linkis0.X 對 Yarn 和 Linkis EngineManager 的資源管理能力,還將提供基于標簽的多級資源分配和回收能力,讓 ResourceManager 具備跨集群、跨計算資源類型的強大資源管理能力。

統一上下文服務為每個計算任務生成context id,跨用戶、系統、計算引擎的關聯管理用戶和系統資源文件(JAR、ZIP、Properties等),結果集,參數變量,函數等,一處設置,處處自動引用;

統一物料系統和用戶級物料管理,可分享和流轉,跨用戶、系統共享物料。

架構概要

Linkis 基于微服務架構開發,其服務可以分為3類:計算治理服務、公共增強服務和微服務治理服務。

計算治理服務,支持計算任務/請求處理流程的3個主要階段:提交-》準備-》執行;

公共增強服務,包括上下文服務、物料管理服務及數據源服務等;

微服務治理服務,包括定制化的Spring Cloud Gateway、Eureka、Open Feign。OK,看到這里你發現什么了沒?如果你聽說過Zepplin。你可能知道我在說什么,Linkis的出現完全可以替代掉Zepplin,成為做數據平臺/中臺的利器!期望Linkis在未來的一段時間內,盡快補齊缺失的部分,比如對Flink最新版本的支持,逐步完善自己的應用生態圈!
責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 存儲器
    +關注

    關注

    38

    文章

    7636

    瀏覽量

    166445
  • 大數據
    +關注

    關注

    64

    文章

    8952

    瀏覽量

    139512

原文標題:打造大數據平臺底層計算存儲引擎 | Apache孵化器迎來Linkis!

文章出處:【微信號:DBDevs,微信公眾號:數據分析與開發】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    智慧環保大數據管理平臺有什么功能

    在環境污染問題日益嚴峻的當下,智慧環保大數據管理平臺成為環境治理的重要利器。它圍繞污水處理、垃圾處理、氣體監測三大核心場景,深度融合大數據
    的頭像 發表于 06-06 15:17 ?76次閱讀
    智慧環保大<b class='flag-5'>數據</b>管理<b class='flag-5'>平臺</b>有什么功能

    RFID測溫芯片:光伏發電運營管理的新利器

    隨著科技的進步,RFID測溫芯片成為光伏發電運營管理的新利器。它通過電磁感應原理工作,實時采集設備溫度數據,并將數據傳輸至后臺管理系統,實現對設備溫度的非接觸式、實時監測,有效解決光伏
    的頭像 發表于 06-04 10:31 ?85次閱讀
    RFID測溫芯片:光伏發電運營管理的新<b class='flag-5'>利器</b>

    明遠智睿SSD2351開發板:儀器儀表與智慧農業的創新利器

    在儀器儀表和智慧農業領域,對設備的精度、穩定性和智能化程度有著較高的要求。明遠智睿的SSD2351開發板以其獨特的優勢,成為這兩個領域的創新利器。 在儀器儀表方面,SSD2351開發板的四核
    發表于 05-09 19:09

    紅外模組:供電系統監測與維護的新利器

    在當今快速發展的電力行業中,供電系統的穩定與安全直接關系到社會經濟的正常運行和民眾生活的便利。隨著科技的進步,紅外模組技術以其獨特的優勢,在供電系統的監測與維護中嶄露頭角,成為提升系統效能、保障電力供應的新利器
    的頭像 發表于 03-12 09:30 ?230次閱讀
    紅外模組:供電系統監測與維護的新<b class='flag-5'>利器</b>

    索尼FCB-EV9500L:電力巡檢的新利器

    索尼FCB-EV9500L:電力巡檢的新利器
    的頭像 發表于 03-06 10:37 ?279次閱讀

    工業數據中臺排名推薦,哪家的好用

    在工業4.0和智能制造的時代浪潮下,數據成為驅動企業發展的核心要素。工業數據中臺作為連接工業設備、匯聚數據資源、賦能業務應用的核心平臺,正
    的頭像 發表于 02-12 10:23 ?300次閱讀
    工業<b class='flag-5'>數據</b>中臺排名推薦,哪家的好用

    5G工業數據可視化管理平臺是什么

    5G工業數據可視化管理平臺是一種集成了數據采集、處理、分析和展示功能的綜合性軟件系統,它以其獨特的功能和優勢,正在成為工業數字化轉型的重要工具。以下是對該
    的頭像 發表于 12-19 16:28 ?346次閱讀

    可與MES系統集成的數據采集監控平臺

    可與MES系統集成的數據采集監控平臺,在制造業中扮演著至關重要的角色。這類平臺通過實時采集各類數據源,對數據進行整合和統一管理,為MES系統
    發表于 12-16 15:08

    IOT數據采集平臺的功能特點

    隨著物聯網(IoT)技術的飛速發展,IOT數據采集平臺作為連接物理世界與數字世界的橋梁,正逐步成為各行業數字化轉型的重要工具。本文將深入探討IOT數據采集
    的頭像 發表于 09-25 13:28 ?1258次閱讀

    工業互聯網遠程監控平臺是什么

    工業互聯網遠程監控平臺:賦能智能制造的利器 在當今快速發展的工業領域,工業互聯網遠程監控平臺正逐漸成為推動工業升級和數字化轉型的重要力量。工業互聯網
    的頭像 發表于 08-29 14:11 ?575次閱讀

    工業數據可視化管理平臺是什么

    數據可視化管理平臺應運而生,它以其獨特的功能和優勢,正在成為工業數字化轉型的重要工具。 工業數據可視化管理平臺的定義 工業
    的頭像 發表于 08-28 14:21 ?582次閱讀

    電磁數據展示平臺

    智慧華盛恒輝電磁數據展示平臺是一種專門用于展示和分析電磁數據的軟件系統。以下是對電磁數據展示平臺的詳細介紹: 智慧華盛恒輝
    的頭像 發表于 06-25 15:44 ?610次閱讀

    工控數據采集平臺是什么?

    工控數據采集平臺是一種用于工業控制和監測領域的系統,該平臺能夠收集來自傳感器、執行器、機械設備以及其他系統的信息,并對這些數據進行處理、存儲和分析。這些
    的頭像 發表于 06-14 15:29 ?690次閱讀

    IO數據采集物聯網平臺是什么

    )。 一個IO數據采集物聯網平臺通常具有以下特性: 1. 遠程監控:通過互聯網,用戶可以從任何地方訪問平臺,實時監控數據和設備狀態。 2. 數據
    的頭像 發表于 06-13 10:12 ?759次閱讀

    能耗數據采集平臺是什么

    能耗數據采集平臺是一種用于監測和記錄建筑物、工業設施或整個能源系統能耗的軟件系統。這種平臺通常通過安裝在各種能源消耗點的傳感器和計量設備來收集數據,然后將這些
    的頭像 發表于 06-12 09:12 ?618次閱讀