大數(shù)據(jù)分布式處理SEARCH AGGREGATION
回答:這個(gè)太范化了吧。大數(shù)據(jù)架構(gòu)選擇的方案就有很多，海量數(shù)據(jù)的即席查詢本省就是業(yè)內(nèi)目前的痛點(diǎn)，暫時(shí)沒有太好的解決方案，kylin等框架也只是一個(gè)折中方案，如果你不是要求海量數(shù)據(jù)分析的秒級(jí)響應(yīng)的話sparkSql、presto等都是不錯(cuò)的方案，分鐘級(jí)別可以返回。
Paul_King
|
763人閱讀
回答:分布式處理，分布式系統(tǒng)(其實(shí)也包含分布式存儲(chǔ)系統(tǒng))一直把RAS、MTBF、MTTR等作為可靠性衡量指標(biāo)，但是專業(yè)指標(biāo)是CAP指標(biāo)，可用性作為其中重要因素之一。CAP理論闡述了在分布式系統(tǒng)的設(shè)計(jì)中，沒有一種設(shè)計(jì)可以同時(shí)滿足一致性，可用性和分區(qū)容錯(cuò)性。所以一個(gè)好的分布式系統(tǒng)，必須在架構(gòu)上充分考慮上述指標(biāo)。分布式系統(tǒng)設(shè)計(jì)中，BASE理論作為CAP理論的折中或延伸，在分布式系統(tǒng)中被大量使用。分布式系統(tǒng)的可...
lolomaco
|
1345人閱讀
回答:首先建議題主描述清楚應(yīng)用場(chǎng)景，否則別人做的方案可能都不符合需求。就Hadoop和OpenStack的糾結(jié)而言，支撐數(shù)據(jù)分析用前者，做資源管理用后者。=================補(bǔ)充=============題主的需求，實(shí)質(zhì)是搭建一個(gè)IoT實(shí)時(shí)大數(shù)據(jù)平臺(tái)，而不是一般意義的私有云。IoTa大數(shù)據(jù)平臺(tái)除了數(shù)據(jù)采集和結(jié)果反饋，其余部分和一般的大數(shù)據(jù)平臺(tái)相差不多。OpenStack長(zhǎng)于管理VM資源管理...
MonoLog
|
1152人閱讀
回答:使用SQL處理數(shù)據(jù)時(shí)，數(shù)據(jù)會(huì)在數(shù)據(jù)庫內(nèi)直接進(jìn)行處理，而且sql處理本身可以對(duì)sql語句做優(yōu)化，按照最優(yōu)的策略自動(dòng)執(zhí)行。使用Java處理時(shí)，需要把數(shù)據(jù)從數(shù)據(jù)庫讀入到Java程序內(nèi)存，其中有網(wǎng)絡(luò)處理和數(shù)據(jù)封裝的操作，數(shù)據(jù)量比較大時(shí)，有一定的延遲，所以相對(duì)來說數(shù)據(jù)處理就慢一些。當(dāng)然，這個(gè)只是大體示意圖，實(shí)際根據(jù)業(yè)務(wù)不同會(huì)更復(fù)雜。兩者側(cè)重的點(diǎn)不同，有各自適合的業(yè)務(wù)領(lǐng)域，需要根據(jù)實(shí)際情況選用合適的方式。
stefanieliang
|
2284人閱讀
回答:我是做JAVA后臺(tái)開發(fā)的，目前為止最多處理過每天600萬左右的數(shù)據(jù)！數(shù)據(jù)不算特別多，但是也算是經(jīng)歷過焦頭爛額，下面淺談下自己和團(tuán)隊(duì)怎么做的？后臺(tái)架構(gòu):前置部門:負(fù)責(zé)接收別的公司推過來的數(shù)據(jù)，因?yàn)槊刻斓臄?shù)據(jù)量較大，且分布不均，使用十分鐘推送一次報(bào)文的方式，使用batch框架進(jìn)行數(shù)據(jù)落地，把落地成功的數(shù)據(jù)某個(gè)字段返回給調(diào)用端，讓調(diào)用端驗(yàn)證是否已經(jīng)全部落地成功的，保證數(shù)據(jù)的一致性！核心處理:使用了spr...
李增田
|
1915人閱讀
回答:目前階段大數(shù)據(jù)技術(shù)及體系已經(jīng)逐漸趨于成熟，不再是以概念貫穿的模式，大數(shù)據(jù)越來越多的被使用，伴隨互聯(lián)網(wǎng)化的發(fā)展更多的企業(yè)信息化已經(jīng)由IT時(shí)代轉(zhuǎn)變?yōu)镈T時(shí)代，以數(shù)據(jù)為核心，用數(shù)據(jù)進(jìn)行決策，基于數(shù)據(jù)驅(qū)動(dòng)企業(yè)的創(chuàng)新與發(fā)展，相信在將來大數(shù)據(jù)也會(huì)有更廣泛的應(yīng)用空間，對(duì)于大數(shù)據(jù)的理解主要分為以下幾個(gè)層面。1.數(shù)據(jù)來源：對(duì)于大數(shù)據(jù)時(shí)代而言更多強(qiáng)調(diào)基于業(yè)務(wù)數(shù)據(jù)的沉淀，在一定規(guī)模的數(shù)據(jù)上進(jìn)行進(jìn)一步的分析、處理、轉(zhuǎn)換，...
arashicage
|
1327人閱讀
...和數(shù)據(jù)處理與分析層，由此可概括的兩大核心技術(shù)： ① 分布式存儲(chǔ) 解決海量數(shù)據(jù)的存儲(chǔ)問題 一臺(tái)機(jī)器無法存儲(chǔ)，我們就借助集群進(jìn)行分布式存儲(chǔ) ② 分布式處理 解決海量數(shù)據(jù)的處理問題 一臺(tái)機(jī)器無法高效完成數(shù)據(jù)處理，...
...儲(chǔ)技術(shù)的發(fā)展變得步履蹣跚，趕不上數(shù)據(jù)發(fā)展的速度時(shí)，分布式存儲(chǔ)成為了必然選擇，非結(jié)構(gòu)型數(shù)據(jù)也對(duì)存儲(chǔ)格式提出了新的要求。層出不窮的數(shù)據(jù)源也使得數(shù)據(jù)量產(chǎn)生了井噴似的迅猛增長(zhǎng)。此時(shí)分布式存儲(chǔ)與NoSQL的誕生回應(yīng)了...
...析這兩個(gè)層面。 1.4.2兩大核心技術(shù) 兩大核心技術(shù)指的是分布式存儲(chǔ)、分布式處理。 分布式存儲(chǔ)：解決海量數(shù)據(jù)的存儲(chǔ)問題。單機(jī)無法存儲(chǔ)海量數(shù)據(jù)時(shí)，就借助集群進(jìn)行分布式存儲(chǔ)。 分布式處理：解決海量數(shù)據(jù)的處理問題。單...
...統(tǒng)，可以多達(dá)幾萬臺(tái)機(jī)器甚至更多。 Hadoop最初主要包含分布式文件系統(tǒng)HDFS和計(jì)算框架MapReduce兩部分，是從Nutch中獨(dú)立出來的項(xiàng)目。在2.0版本中，又把資源管理和任務(wù)調(diào)度功能從MapReduce中剝離形成YARN，使其他框架也可以像MapReduce...
...件框架，實(shí)現(xiàn)在大量計(jì)算機(jī)組成的集群中對(duì)海量數(shù)據(jù)進(jìn)行分布式計(jì)算。Hadoop框架中最核心設(shè)計(jì)就是：HDFS和MapReduce。HDFS提供了海量數(shù)據(jù)的存儲(chǔ)，MapReduce提供了對(duì)數(shù)據(jù)的計(jì)算。Hadoop的發(fā)行版除了社區(qū)的Apache hadoop外，cloudera，hortonwork...
...析技術(shù) 常見的大數(shù)據(jù)分析技術(shù)主要由以下幾部分構(gòu)成： 分布式的文件系統(tǒng)存儲(chǔ)海量的非結(jié)構(gòu)化數(shù)據(jù)（例如：hdfs等） 分布式的離線計(jì)算系統(tǒng)，對(duì)業(yè)務(wù)數(shù)據(jù)批量處理。（例如：mapreduce等） 分布式的實(shí)時(shí)計(jì)算系統(tǒng)，實(shí)時(shí)對(duì)業(yè)務(wù)數(shù)據(jù)...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺(tái)階。哪里可以獲得...
一、活動(dòng)亮點(diǎn)：全球31個(gè)節(jié)點(diǎn)覆蓋 + 線路升級(jí)，跨境業(yè)務(wù)福音！爆款云主機(jī)0.5折起：香港、海外多節(jié)點(diǎn)...
大模型的訓(xùn)練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
