DeepSeek開創性的AI模型挑戰了行業規範。最初被吹捧為預算奇跡，接受了600萬美元的培訓，現實顯示出了更大的投資。本文探討了DeepSeek的最初主張與開發其複雜AI的實際成本之間的差異。
DeepSeek聊天機器人具有令人印象深刻的能力，很快就成為了主要參與者，甚至導致Nvidia的股價大幅下跌。它的成功源於創新技術的獨特組合：
- 多語預測（MTP)：同時預測多個單詞，可顯著提高準確性和速度。
- 專家（MOE)的混合物：利用256個神經網絡，每項任務激活了8個，以提高性能和訓練效率。
- 多頭潛在注意力（MLA)：反複提取關鍵細節，以最大程度地減少信息丟失並改善細微的理解。
圖像：ensigame.com
DeepSeek對DeepSeek V3的600萬美元培訓成本的主張具有誤導性。盡管該數字可能反映了培訓前的GPU使用情況，但它忽略了大量費用：研究，改進，數據處理和大規模的基礎架構。半分析顯示，DeepSeek運營著龐大的計算基礎架構，利用大約50,000個NVIDIA HOPPER GPU（包括H800，H100和H20單元)跨多個數據中心。該基礎設施的總投資總額約為16億美元，運營成本估計為9.44億美元。
圖像：ensigame.com
作為中國對衝基金高級基金的子公司，該公司的結構為其成功做出了貢獻。擁有其數據中心提供了無與倫比的控製和更快的創新實現。它的自資助性質允許敏捷和快速決策。此外，DeepSeek吸引了頂尖人才，一些研究人員每年收入超過130萬美元。
圖像：ensigame.com
DeepSeek對AI開發的總投資超過了5億美元。它的簡化結構可實現有效的創新，與大公司的官僚負擔形成鮮明對比。但是，“革命預算”的敘述是對其實質資源承諾的過度簡化。
圖像：ensigame.com
盡管DeepSeek的成功表明了資金充足的獨立AI公司與巨人競爭的潛力，但其故事強調了這項成就所必需的重大投資。 DeepSeek報告說，R1的500萬美元與估計的ChatGpt4O估計$ 1億美元之間的對比凸顯了巨大的成本差異，即使DeepSeek的大量投資也是如此。因此，需要在總體大量投資的背景下查看最初的低成本索賠。
