文章庫ARTICLE COLUMN
2023年12月28日 英偉達(dá)宣布正式發(fā)布GeForce RTX 4090D，對比于一年前上市的4090芯片，兩者的區(qū)別與差異在哪？而在當(dāng)前比較火熱的大模型推理、AI繪畫場景方面 兩者各自的表現(xiàn)又如何呢？規(guī)格與參數(shù)信息對比現(xiàn)在先來看看GeForce RTX 4090D到底與之前的GeForce RT...
自2022年年末英偉達(dá)發(fā)布4090芯片以來，這款產(chǎn)品憑借著其優(yōu)異的性能迅速在科技界占據(jù)了一席之地?，F(xiàn)如今，不論是在游戲體驗(yàn)、內(nèi)容創(chuàng)作能力方面還是模型精度提升方面，4090都是一個(gè)繞不過去的名字。而A100作為早些發(fā)布的產(chǎn)品，其優(yōu)異的能力和適配性已經(jīng)為它打下...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得廉價(jià)算力，進(jìn)行AI視頻生成等模型開發(fā)和應(yīng)用呢？Compshare是隸屬于UCloud云計(jì)算的GPU算力平臺，專注提供高性價(jià)比的NVIDIA RTX 40 系列資源，滿足 AI應(yīng)用、模型推理/微...
在深度學(xué)習(xí)和人工智能應(yīng)用，選最合的硬件對于模型訓(xùn)練和推任務(wù)關(guān)。在大模型訓(xùn)練，英偉達(dá)4090并不是最的選。訓(xùn)練任務(wù)通常要更大的顯存容量、更的內(nèi)存帶寬的計(jì)算能。這些求，英偉達(dá)的高性能顯卡系列，比如A100和H100，更適合處理大數(shù)據(jù)集和復(fù)雜模型。，在推理任...
DeepSeek V3憑借多頭潛注意力（MLA）與優(yōu)化的混合專家網(wǎng)絡(luò)（MoE）架構(gòu)，奠定了高效訓(xùn)練的基礎(chǔ)，僅以557.6萬元成本實(shí)現(xiàn)媲美OpenAI O1的性能；而R1則基于V3進(jìn)一步突破，通過無監(jiān)督強(qiáng)化學(xué)習(xí)與知識蒸餾技術(shù)，在推理能力上對標(biāo)頂尖模型，同時(shí)開源多尺寸版本，推動...
Coze 官方宣布，他們已經(jīng)成功集成了 OpenAI 推出的最新AI 助手 GPT-4o，為用戶帶來了更智能、更強(qiáng)大的聊天體驗(yàn)。GPT-4o 是 OpenAI 的力作，它的加入將為 Coze 用戶提供更便捷、更高效的溝通和交流方式。這里演示創(chuàng)建一個(gè)Google Web Search和DALLE 3插件的的聊...
DeepSeek-R1-671b動態(tài)量化版，由unsloth.ai發(fā)布，推薦使用多卡進(jìn)行部署，具體操作如下。本鏡像還附帶32b的無限制版蒸餾模型，使用open-webui和ollama以及l(fā)lama.cpp進(jìn)行部署，內(nèi)置所有環(huán)境，即拉即用。第一步：登錄「優(yōu)云智算」算力共享平臺并進(jìn)入「鏡像社區(qū)」...
DeepSeek-R1 Distill系列基于DeepSeek-R1的推理能力，通過蒸餾技術(shù)將推理能力遷移到較小的模型上，在保持高效性能的同時(shí)，成功降低了計(jì)算成本，實(shí)現(xiàn)了小身材、大智慧的完美平衡！該鏡像使用vLLM部署提供支持，適用于高性能大語言模型的推理和微調(diào)任務(wù)，第...
在人工智能領(lǐng)域，每一天都可能發(fā)生顛覆性的變革。就在Midjourney剛剛進(jìn)行大更新的第二天，開源圖像生成領(lǐng)域就迎來了一匹令人矚目的黑馬——FLUX.1。這個(gè)突如其來的新玩家不僅在性能上聲稱大幅超越了DALL·E3、Midjourney V6等閉源模型，還將開源的SD3系列全線...
自從OpenAI公布了Sora后，震爆了全世界，但由于其技術(shù)的不成熟和應(yīng)用的局限性，未能大規(guī)模推廣，只有零零散散的幾個(gè)公布出來的一些視頻。昨日，快手成立13周年，可靈（Kling）大模型發(fā)布，體驗(yàn)后不由得感嘆，炸裂，太震撼了，快手可靈，除了那個(gè)沒發(fā)布的Sora...
在當(dāng)今的圖形處理領(lǐng)域，NVIDIA一直以其卓越的性能和創(chuàng)新的技術(shù)引領(lǐng)市場潮流。作為其最新的旗艦級顯卡，GeForce RTX 4090一經(jīng)發(fā)布便吸引了無數(shù)玩家的目光。作為最大的賣點(diǎn)，游戲性能以及功效無疑是這張顯卡作為佼佼者的地方；于此同時(shí)，其關(guān)于視頻編輯、3D建模...
項(xiàng)目簡介DeepSeek-V2，一個(gè)專家混合(MoE)語言模型，其特點(diǎn)是經(jīng)濟(jì)高效的訓(xùn)練和推理。它包含 2360 億個(gè)總參數(shù)，其中每個(gè)token激活了21億個(gè)參數(shù)。與 DeepSeek67B相比，DeepSeek-V2 實(shí)現(xiàn)了更強(qiáng)的性能，同時(shí)節(jié)省了 42.5%的訓(xùn)練成本，將 KV 緩存減少了 93.3%，并將...
當(dāng)炒作出了「潑天的流量」，已經(jīng)沒人關(guān)心產(chǎn)品厲不厲害了。近日，OpenAI 的秘密項(xiàng)目「Q*」引起了業(yè)內(nèi)人士的廣泛關(guān)注。上個(gè)月，代號為「草莓（Strawberry）」的項(xiàng)目曝光，據(jù)說它是「Q*」的延續(xù)，并可能具備高級推理能力。而就在最近幾天，關(guān)于這個(gè)項(xiàng)目，網(wǎng)絡(luò)上...
優(yōu)刻得Compshare GPU平臺上線「黑悟空專屬套餐」啦！僅需3步，即可使用云端4090暢玩，新用戶還有20元免費(fèi)體驗(yàn)金！1、注冊Compshare賬號并完成實(shí)名認(rèn)證https://www.compshare.cn/?ytag=seo2、創(chuàng)建GPU資源選擇單張40系顯卡，鏡像選擇黑神話悟空鏡像（預(yù)裝steam...
簡介一周前，由紅杉投資的硅谷初創(chuàng)公司UTA AI推出了其核心產(chǎn)品Wanderboat AI，這是一個(gè)基于GPT-4技術(shù)的智能旅行規(guī)劃工具。該平臺允許用戶通過對話交互來明確旅行的偏好和需求，并提供包括目的地、活動和實(shí)用建議在內(nèi)的定制化旅行建議。Wanderboat AI整合了視...
Compshare是一個(gè)專注于提供高性價(jià)比算力資源的平臺，它為AI訓(xùn)練、深度學(xué)習(xí)、科研計(jì)算等場景提供強(qiáng)大的支持。平臺的核心優(yōu)勢在于其高效的GPU算力資源，用戶可以根據(jù)自己的需求，靈活選擇不同的GPU配置，實(shí)現(xiàn)一鍵部署和即算即用，從而顯著提升工作效率。100% GP...
【compshare】推薦一個(gè)GPU按小時(shí)租的平臺，使用實(shí)體機(jī)部署，可以方便快速的部署xinf推理框架并提供web展示，部署qwen大模型，特別方便UCloud(優(yōu)刻得)是中國知名的中立云計(jì)算服務(wù)商，科創(chuàng)板上市(股票代碼：688158)，中國云計(jì)算第一股，專注于提供可靠的企業(yè)級...
GLM-4-Plus是智譜AI最新推出的旗艦級預(yù)訓(xùn)練語言模型，標(biāo)志著公司在人工智能技術(shù)上取得了重大突破。相比前一代GLM-3模型，GLM-4-Plus在多個(gè)關(guān)鍵指標(biāo)上實(shí)現(xiàn)了大幅提升，尤其是在語言理解能力、指令遵循能力和長文本處理能力方面。這些進(jìn)步使得GLM-4-Plus在各類...
OpenAI最近發(fā)布了新一代AI推理模型——o1，標(biāo)志著其在復(fù)雜推理任務(wù)上的重大進(jìn)展。該模型包括兩個(gè)版本：o1-preview和o1-mini，分別針對復(fù)雜推理和快速處理任務(wù)。模型需要長時(shí)間思考，非GPT家族，調(diào)用方式需要修改調(diào)用成本3倍起步調(diào)用次數(shù)嚴(yán)格限制，每周幾十次...
在人工智能的浪潮中，個(gè)性化體驗(yàn)已成為創(chuàng)新的關(guān)鍵。而隨著各種各樣的模型迭代更新，如何為AI應(yīng)用提供持久、智能的記憶系統(tǒng)逐漸成為了一個(gè)關(guān)鍵挑戰(zhàn)。最近開源的Mem0項(xiàng)目為我們提供了一個(gè)強(qiáng)大的解決方案。它為大型語言模型(LLM)提供了一個(gè)智能、自我優(yōu)化的記憶...
號稱地表最強(qiáng)人形機(jī)器人，來了。當(dāng)?shù)貢r(shí)間周二早晨，獲得微軟、英偉達(dá)、OpenAI投資的硅谷著名智能創(chuàng)業(yè)公司 Figure 正式發(fā)布了自己的新一代人形機(jī)器人Figure 02?；跈C(jī)載算力和各個(gè)組件的全方位升級，AI人形機(jī)器人朝著進(jìn)廠打工又邁進(jìn)了一大步。據(jù)介紹...
DeepSeek Janus-Pro開源模型DeepSeek團(tuán)隊(duì)于1月28日凌晨發(fā)布了開源多模態(tài)大語言模型Janus-Pro，這是一款基于DeepSeek-LLM-1.5b-base和DeepSeek-LLM-7b-base構(gòu)建的模型。第一步：登錄「優(yōu)云智算」算力共享平臺并進(jìn)入「鏡像社區(qū)」地址：https://www.compshare.cn...
2月10日，清華大學(xué)KVCache.AI團(tuán)隊(duì)聯(lián)合趨境科技發(fā)布的KTransformers開源項(xiàng)目公布更新：一塊24G顯存的4090D就可以在本地運(yùn)行DeepSeek-R1、V3的671B滿血版。預(yù)處理速度最高達(dá)到286 tokens/s，推理生成速度最高能達(dá)到14 tokens/s。KTransformers通過優(yōu)化本地...
Llama3 中文聊天項(xiàng)目綜合資源庫，該文檔集合了與Lama3 模型相關(guān)的各種中文資料，包括微調(diào)版本、有趣的權(quán)重、訓(xùn)練、推理、評測和部署的教程視頻與文檔。1. 多版本支持與創(chuàng)新：該倉庫提供了多個(gè)版本的Lama3 模型，包括基于不同技術(shù)和偏好的微調(diào)版本，如直接中文...
v0是一個(gè)專為網(wǎng)頁開發(fā)設(shè)計(jì)的智能助手，它通過對話形式提供服務(wù)。你可以與v0進(jìn)行互動，無論是代碼調(diào)試、解答編程問題還是生成代碼片段，v0都能在前端開發(fā)領(lǐng)域提供專業(yè)的幫助。它精通TypeScript、React、Next.js、Vercel等前端技術(shù)，能夠?yàn)槟闾峁┥钊氲募夹g(shù)指導(dǎo)...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得...
一、活動亮點(diǎn)：全球31個(gè)節(jié)點(diǎn)覆蓋 + 線路升級，跨境業(yè)務(wù)福音！爆款云主機(jī)0.5折起：香港、海外多節(jié)點(diǎn)...
大模型的訓(xùn)練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
89542767
白馬嘯西風(fēng)