回答:這個(gè)太范化了吧。大數(shù)據(jù)架構(gòu)選擇的方案就有很多,海量數(shù)據(jù)的即席查詢本省就是業(yè)內(nèi)目前的痛點(diǎn),暫時(shí)沒(méi)有太好的解決方案,kylin等框架也只是一個(gè)折中方案,如果你不是要求海量數(shù)據(jù)分析的秒級(jí)響應(yīng)的話sparkSql、presto等都是不錯(cuò)的方案,分鐘級(jí)別可以返回。
回答:現(xiàn)在有幸參與傳統(tǒng)銀行數(shù)字化轉(zhuǎn)型,負(fù)責(zé)技術(shù)架構(gòu)部分的轉(zhuǎn)型設(shè)計(jì)。高性能的數(shù)據(jù)架構(gòu)(High Performance Data Architecture),正是我們架構(gòu)轉(zhuǎn)型的重點(diǎn)。隨著科技的蓬勃發(fā)展、社交網(wǎng)絡(luò)的廣泛使用、線上消費(fèi)的普及、數(shù)據(jù)挖掘的技術(shù)提升等大趨勢(shì),全球銀行業(yè)正迎來(lái)一場(chǎng)聲勢(shì)浩大的數(shù)字化創(chuàng)新浪潮。數(shù)字化為消費(fèi)者的生活及行為模式帶來(lái)翻天覆地的變化,也孵化出一批新型的金融科技(Fintech)競(jìng)...
回答:以mysql為列:1:支撐高并發(fā)系統(tǒng),一定會(huì)涉及事務(wù),所以數(shù)據(jù)庫(kù)引擎必選innodb,innodb支持事務(wù),事務(wù)級(jí)別根據(jù)業(yè)務(wù)而定,如果業(yè)務(wù)數(shù)據(jù)一致性要求很高,事務(wù)就開(kāi)啟序列化級(jí)別,這樣就完全隔離事務(wù),但是會(huì)導(dǎo)致鎖資源競(jìng)爭(zhēng)加劇。mysql的性能有一定的降低。2:讀寫(xiě)分離,數(shù)據(jù)庫(kù)分成主庫(kù)和從庫(kù),主庫(kù)負(fù)責(zé)寫(xiě)數(shù)據(jù),叢庫(kù)負(fù)責(zé)讀數(shù)據(jù)。注意主從數(shù)據(jù)庫(kù)數(shù)據(jù)一致性問(wèn)題。3:冷熱數(shù)據(jù)分離,美團(tuán),餓了么部分設(shè)計(jì)采用冷熱...
回答:目前階段大數(shù)據(jù)技術(shù)及體系已經(jīng)逐漸趨于成熟,不再是以概念貫穿的模式,大數(shù)據(jù)越來(lái)越多的被使用,伴隨互聯(lián)網(wǎng)化的發(fā)展更多的企業(yè)信息化已經(jīng)由IT時(shí)代轉(zhuǎn)變?yōu)镈T時(shí)代,以數(shù)據(jù)為核心,用數(shù)據(jù)進(jìn)行決策,基于數(shù)據(jù)驅(qū)動(dòng)企業(yè)的創(chuàng)新與發(fā)展,相信在將來(lái)大數(shù)據(jù)也會(huì)有更廣泛的應(yīng)用空間,對(duì)于大數(shù)據(jù)的理解主要分為以下幾個(gè)層面。1.數(shù)據(jù)來(lái)源:對(duì)于大數(shù)據(jù)時(shí)代而言更多強(qiáng)調(diào)基于業(yè)務(wù)數(shù)據(jù)的沉淀,在一定規(guī)模的數(shù)據(jù)上進(jìn)行進(jìn)一步的分析、處理、轉(zhuǎn)換,...
回答:在大數(shù)據(jù)領(lǐng)域大概有四個(gè)大的工作方向,除了大數(shù)據(jù)平臺(tái)應(yīng)用及開(kāi)發(fā)、大數(shù)據(jù)分析與應(yīng)用和大數(shù)據(jù)平臺(tái)集成與運(yùn)維之外,還有大數(shù)據(jù)平臺(tái)架構(gòu)與研發(fā),除了以上四個(gè)大的工作方向之外,還有一個(gè)工作方向是大數(shù)據(jù)技術(shù)推廣和培訓(xùn),這部分工作目前也有不少人在從事。大數(shù)據(jù)平臺(tái)架構(gòu)與研發(fā)主要的工作內(nèi)容是研發(fā)底層的大數(shù)據(jù)平臺(tái),這部分工作的難度較高,從事這部分工作的研發(fā)級(jí)崗位也并不多?,F(xiàn)在不少技術(shù)研發(fā)團(tuán)隊(duì)都以Hadoop、Spark平...
回答:近幾年,大數(shù)據(jù)的概念逐漸深入人心,大數(shù)據(jù)的趨勢(shì)越來(lái)越火爆。但是,大數(shù)據(jù)到底是個(gè)啥?怎么樣才能玩好大數(shù)據(jù)呢?大數(shù)據(jù)的基本含義就是海量數(shù)據(jù),麥肯錫全球研究所給出的定義是:一種規(guī)模大到在獲取、存儲(chǔ)、管理、分析方面大大超出了傳統(tǒng)數(shù)據(jù)庫(kù)軟件工具能力范圍的數(shù)據(jù)集合,具有海量的數(shù)據(jù)規(guī)模、快速的數(shù)據(jù)流轉(zhuǎn)、多樣的數(shù)據(jù)類型和價(jià)值密度低四大特征。數(shù)字經(jīng)濟(jì)的要素之一就是大數(shù)據(jù)資源,現(xiàn)在大家聊得最多的大數(shù)據(jù)是基于已經(jīng)存在的...
...些問(wèn)題: ?? ●?你擁有的數(shù)據(jù)到底有多龐大,你目前的架構(gòu)能保證擴(kuò)展這些量嗎? ?? ●?你的數(shù)據(jù)在結(jié)構(gòu)、半結(jié)構(gòu)、非結(jié)構(gòu)方面有什么特征?目前來(lái)說(shuō),你的系統(tǒng)架構(gòu)和技術(shù)是否能支撐這些不同類型的數(shù)據(jù)? ?? ●?你的數(shù)據(jù)...
12月22日至23日,高可用架構(gòu)和msup聯(lián)合主辦的GIAC 全球互聯(lián)網(wǎng)架構(gòu)大會(huì)將于上海光大會(huì)展中心舉行。GIAC 全球互聯(lián)網(wǎng)架構(gòu)大會(huì)是高可用架構(gòu)技術(shù)社區(qū)推廣的面向架構(gòu)師、技術(shù)負(fù)責(zé)人及高端技術(shù)從業(yè)人員的技術(shù)架構(gòu)大會(huì)。GIAC于2016...
12月22日至23日,高可用架構(gòu)和msup聯(lián)合主辦的GIAC 全球互聯(lián)網(wǎng)架構(gòu)大會(huì)將于上海光大會(huì)展中心舉行。GIAC 全球互聯(lián)網(wǎng)架構(gòu)大會(huì)是高可用架構(gòu)技術(shù)社區(qū)推廣的面向架構(gòu)師、技術(shù)負(fù)責(zé)人及高端技術(shù)從業(yè)人員的技術(shù)架構(gòu)大會(huì)。GIAC于2016...
...驟升導(dǎo)致的另一方資源枯竭,從而影響性能并在整個(gè)基礎(chǔ)架構(gòu)中產(chǎn)生的漣漪效應(yīng);和在超融合部署方式在集群規(guī)模較大后,網(wǎng)絡(luò)、硬盤、服務(wù)器發(fā)生故障的概率都會(huì)增大;以及數(shù)據(jù)重刪、壓縮、加密糾刪碼等功能、故障的自修復(fù)...
2017年12月22日-23日,由高可用架構(gòu)技術(shù)社區(qū)聯(lián)合麥思博(msup)有限公司共同主辦的 GIAC全球互聯(lián)網(wǎng)架構(gòu)大會(huì)在上海光大會(huì)展中心成功舉行。 本屆全球互聯(lián)網(wǎng)架構(gòu)大會(huì)以改變未來(lái)的互聯(lián)網(wǎng)構(gòu)建方式為主題,分為經(jīng)典架構(gòu)、D...
2017年12月22日-23日,由高可用架構(gòu)技術(shù)社區(qū)聯(lián)合麥思博(msup)有限公司共同主辦的 GIAC全球互聯(lián)網(wǎng)架構(gòu)大會(huì)在上海光大會(huì)展中心成功舉行。 本屆全球互聯(lián)網(wǎng)架構(gòu)大會(huì)以改變未來(lái)的互聯(lián)網(wǎng)構(gòu)建方式為主題,分為經(jīng)典架構(gòu)、D...
...絡(luò)特性可以通過(guò)升級(jí)設(shè)備或線路來(lái)提升,但是有些與網(wǎng)絡(luò)架構(gòu)有關(guān)。升級(jí)或者改動(dòng)網(wǎng)絡(luò)架構(gòu)帶來(lái)的風(fēng)險(xiǎn)和成本是巨大的,因此在架設(shè)數(shù)據(jù)中心初始,網(wǎng)絡(luò)架構(gòu)的選擇和設(shè)計(jì)尤其需要謹(jǐn)慎。 那么,從過(guò)去的傳統(tǒng)數(shù)據(jù)中心,到如今...
...的大數(shù)據(jù)增長(zhǎng)。?? 毫無(wú)疑問(wèn),大數(shù)據(jù)將挑戰(zhàn)企業(yè)的存儲(chǔ)架構(gòu)及數(shù)據(jù)中心基礎(chǔ)設(shè)施等,也會(huì)引發(fā)云計(jì)算、數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)挖掘、商業(yè)智能等應(yīng)用的連鎖反應(yīng)。2011年企業(yè)會(huì)將更多的多TB(1TB=1000GB)數(shù)據(jù)集用于商務(wù)智能和商務(wù)分析;到20...
...大數(shù)據(jù)增長(zhǎng)?!? 毫無(wú)疑問(wèn),大數(shù)據(jù)將挑戰(zhàn)企業(yè)的存儲(chǔ)架構(gòu)及數(shù)據(jù)中心基礎(chǔ)設(shè)施等,也會(huì)引發(fā)云計(jì)算、數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)挖掘、商業(yè)智能等應(yīng)用的連鎖反應(yīng)。2011年企業(yè)會(huì)將更多 的多TB(1TB=1000GB)數(shù)據(jù)集用于商務(wù)智能和商務(wù)分析;到202...
摘要:友盟大數(shù)據(jù)平臺(tái)的架構(gòu)借鑒了Lambda架構(gòu)思想,數(shù)據(jù)接入層讓Kafka集群承擔(dān),后面由Storm消費(fèi),存儲(chǔ)在MongoDB里面,通過(guò)Kafka自帶的Mirror功能同步,兩個(gè)Kafka集群,可以分離負(fù)載;計(jì)算有離線和實(shí)時(shí)兩部分,實(shí)時(shí)是Storm,離線...
ChatGPT和Sora等AI大模型應(yīng)用,將AI大模型和算力需求的熱度不斷帶上新的臺(tái)階。哪里可以獲得...
一、活動(dòng)亮點(diǎn):全球31個(gè)節(jié)點(diǎn)覆蓋 + 線路升級(jí),跨境業(yè)務(wù)福音!爆款云主機(jī)0.5折起:香港、海外多節(jié)點(diǎn)...
大模型的訓(xùn)練用4090是不合適的,但推理(inference/serving)用4090不能說(shuō)合適,...