首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 互聯(lián)網(wǎng) >> 正文

我們開源啦!一鍵部署免費使用!Kubernetes上直接運行大數(shù)據(jù)平臺!

2024年4月26日 10:26  CCTIME飛象網(wǎng)  

導語:市場上首個 K8s 上的大數(shù)據(jù)平臺,開源了!

智領云自主研發(fā)的首個完全基于Kubernetes的容器化大數(shù)據(jù)平臺

Kubernetes Data Platform (簡稱KDP)

開源啦!

開發(fā)者只要準備好命令行工具,一鍵部署

Hadoop,Hive,Spark,Kafka, Flink, MinIO ...

就可以創(chuàng)建以前要花幾十萬甚至幾百萬才可以買到的大數(shù)據(jù)平臺

無需再花大量的時間和經(jīng)費去做重復的研發(fā)

高度集成,單機即可體驗大數(shù)據(jù)平臺

在高級安裝模式下

用戶可在現(xiàn)有的K8s集群上集成運行大數(shù)據(jù)組件

不用額外單獨建設大數(shù)據(jù)集群

項目地址:

https://github.com/linktimecloud/kubernetes-data-platform

辛辛苦苦研究出來的成果,為什么要開源?

這波格局開大,老板有話說

問題1:我們?yōu)槭裁匆_源?

我們的產(chǎn)品一直是基于大數(shù)據(jù)開源生態(tài)體系建設的。之前就一直有開源回饋社區(qū)的計劃,但是因為之前Kubernetes對于大數(shù)據(jù)組件的支持還不夠成熟,我們也一直在迭代與Kubernetes的適配。現(xiàn)在我們的企業(yè)版已經(jīng)在很多頭部客戶落地并且在生產(chǎn)環(huán)境下高效運行,覺得這個版本已經(jīng)可以達到大部分生產(chǎn)級項目的需求,集成度以及可用性是能夠幫到有類似需求的用戶的,希望這次開源能夠降低在Kubernetes上集成大數(shù)據(jù)組件的門檻,讓更多Kuberenetes和big data社區(qū)的同行們可以使用。

問題2:開源版本的KDP,能干啥?

KDP可以很方便的在Kubenetes上安裝和管理常用的大數(shù)據(jù)組件,Hadoop,Hive,Spark,Kafka, Flink, MinIO 等等,不需要自己一個一個去適配,可以直接開始使用。然后KDP也提供集成的運維管理界面,用戶可以從界面管理所有組件的安裝配置,運行狀況,資源使用情況,修改配置。而且KDP會將一個大數(shù)據(jù)組件的所有負載(容器,pod)作為一個整體管理,用戶不需要在Kubernetes的控制平面上去管理單獨的負載。

問題3:最大的亮點是?

只要你已經(jīng)在使用Kubernetes,那么在現(xiàn)有集群上十幾分鐘就可以啟動一個完整的大數(shù)據(jù)集群,馬上開始使用,極大的降低了大數(shù)據(jù)平臺的使用門檻。因為我們這個流程是高度集成的,整個安裝過程在一個單機環(huán)境下也都能啟動(例如使用單機kind虛擬集群都可以),所以在測試和實驗環(huán)境下都可以高效使用。當然,啟動之后Day 2的很多好處,例如資源的高效利用和集成的運維管理,也是KDP提供的重要功能。

KDP,即在Kubernetes上使用原生的分布式功能搭建及管理大數(shù)據(jù)平臺。

將多套大數(shù)據(jù)組件集成在Kubernetes之上,同時提供一個整體的管理及運維工具體系,形成一個完全基于Kubernetes的大數(shù)據(jù)平臺。企業(yè)級KDP更是支持在同一個Kubernetes集群中同時運行多個大數(shù)據(jù)平臺以及多租戶管理的能力,充分發(fā)揮Kubernetes云原生體系的優(yōu)勢。

KDP,通過對開源大數(shù)據(jù)組件的擴展和集成,實現(xiàn)了傳統(tǒng)大數(shù)據(jù)平臺到K8s大數(shù)據(jù)平臺的平穩(wěn)遷移。

作為市場上首個可完全在Kubernetes上部署的容器化云原生大數(shù)據(jù)平臺,智領云自主研發(fā)的KDP,深度整合云原生架構(gòu)優(yōu)勢,將大數(shù)據(jù)組件、數(shù)據(jù)應用及資源調(diào)度混排,納入Kubernetes管理體系,從而帶你真正玩轉(zhuǎn)云原生!

總體框架

簡單來講,KDP可以允許客戶在Kubernetes上運行它所有的大數(shù)據(jù)組件,并把它們作為一個整體管理起來。

在Kubernetes上運行大數(shù)據(jù)平臺有三個好處:

第一,更高效的大數(shù)據(jù)組件集成:KDP提供標準化自動化的大數(shù)據(jù)組件部署和配置,極大地縮短了大數(shù)據(jù)項目開發(fā)和上線時間;

第二,更高效的大數(shù)據(jù)集群運管:KDP通過大數(shù)據(jù)組件與K8s的集成,在K8s之上搭建了一個大數(shù)據(jù)組件管理抽象層,標準化大數(shù)據(jù)組件生命周期管理,并提供UI界面進一步提升了部署、升級等操作的效率;

第三,更高的集群資源利用率:利用K8s的資源管理和配額機制,與其它系統(tǒng)共享K8s資源池,精細化資源管理,對比傳統(tǒng)大數(shù)據(jù)平臺約30%左右的資源利用率,KDP可大幅提升至60%以上。

社區(qū)

我們期待您的貢獻和建議!最簡單的貢獻方式是參與Github議題/討論的討論。 如果您有任何問題,請與我們聯(lián)系,我們將確保盡快為您解答。

微信群:添加小助手微信拉您進入交流群

釘釘群:搜索公開群組號 82250000662

貢獻

參考開發(fā)者指南,了解如何開發(fā)及貢獻 KDP。

https://linktimecloud.github.io/kubernetes-data-platform/docs/zh/developer-guide/developer-guide.html

編 輯:路金娣
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請在30日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
聞庫:全球6G發(fā)展需要統(tǒng)一的思路、方向和目標
精彩專題
CES 2024國際消費電子展
2023年信息通信產(chǎn)業(yè)盤點暨頒獎禮
飛象網(wǎng)2023年手機評選
第24屆中國國際光電博覽會
CCTIME推薦
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業(yè)務經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復制、鏡像