廣告區

2025年1月28日 星期二

1月28日!AI大語言應用差異成本也不同!

 新聞說:NVIDIA 暴跌後急發聲明,DeepSeek 的進展證明需要更多輝達晶片,輝達27日表示,中國大陸 AI 公司 DeepSeek 取得的進展,顯示出輝達晶片對大陸市場的可用性,未來將需要更多的輝達晶片來滿足 DeepSeek 服務的需求。輝達是在該股價於周一暴跌17%至每股118.58美元、市值單日蒸發約6,000億美元後,發出上述聲明。此前, DeepSeek 的 AI 模型一夕爆紅,在周末期間引發市場熱烈討論,投資人擔心 DeepSeek 與 OpenAI 等競爭對手相比,使用的輝達晶片數量遠低於美國公司。輝達發言人周一表示:「DeepSeek 是一項出色的 AI 進步 ,是一項測試時間縮放的完美範例。」輝達在聲明中說:「DeepSeek 的成就顯示出能夠如何利用技術、採用廣泛可用的模型和完全符合出口管制的運算,來創建新的模型。」DeepSeek 在爆紅後,周一湧入過多的新用戶,促使該公司限制新註冊,這也代表仍在適應用戶湧入的情況。服務新用戶,是 AI 公司所指稱的「推論」過程,輝達對此表示,這顯示了輝達的晶片仍是有其需求的。輝達在聲明中表示:「推論需要大量輝達GPU和高性能網路。」輝達也說,DeepSeek 使用的 GPU 完全符合出口標準。輝達的聲明顯示,該公司認為 DeepSeek 的突破,為輝達的 GPU 創造了更多工作。

A大回答:台積電ADR跟著輝達股價而大跌,輝達股價大跌16.97%,台積電ADR股價大跌13.33%,昨天才星期一,今天星期二,還有幾天能讓市場去反應DeepSeek的情緒,會有人說輝達一夜蒸發6000億美元市值,其實就只是事件發生時,市場不知道最終是利多還是利空,就跟著在那瞎砍而以,很多投資機構覺得自己要做風險控管,就是先砍先贏,還有一些是因為槓桿開太大,結果券商直接幫他砍,才會造成短時間股價跌到很誇張的情況,輝達的淨值是1.74元,原因是之前輝達有做分拆,把一張拆成十張,所以淨值就要除以10,股價也要除以十,不然之前輝達股價早就一千多元了,就是因為一拆十後,股價才會變成一百多元,目前輝達的股價淨值比一樣是有68倍,也就是大跌了16.97%後還有68倍,之所以輝達的股價淨值比會這麼高,那是因為輝達獨佔整個市場,而GPU供不應求,DeepSeek發佈後,會有人直接把DeepSeek說成能用極少的錢就做到和OPENAI一樣的做,其實大家要注意他們的用辭,是能在某一些地方達到差不多的水準,很多交易員一直以為目前的AI已經是頂天了,所以才會覺得有新的演算法出來能節省成本就在那驚訝哥,回顧電腦,手機,筆電,平板的演進過程,軟體及硬體鐵定是持續一起進步的,想要讓科技持續的進步,那就是要讓硬體愈來愈好,怎麼會有人天真的覺得DeepSeek創造了一個比較節成本的方法後,就覺得AI產業結束了,哪有這種事。

大家來看一下DeepSeek和OpenAI在硬件成本上的差異,與它們的技術架構和應用定位密切相關:1.硬件成本結構部份,DeepSeek偏向垂直領域應用,硬件成本相對較低:針對特定任務(如知識檢索、專業數據挖掘),可能使用定制化硬件,專注於效率提升,避免過多資源浪費。 私有部署時,客戶需要支付 專用硬件設備(如定制伺服器)和部署成本,總體規模小,成本可控。 運行與維護成本: 集中在中小型伺服器集群。 能耗和冷卻需求較低。OpenAI面向超大規模模型的硬件投入極高: 訓練 GPT 模型(如 GPT-4)需要數萬個 NVIDIA A100 或 H100 GPU,這些卡的單價約為 10,000到40,000 美元每片。 訓練基礎設施需要支撐超過 數百萬美元 的單次訓練成本。雲計算成本: OpenAI 與 Microsoft Azure 合作,利用雲端超級計算基礎設施,雲資源的使用費用十分昂貴。運行與維護成本:能耗非常高,通常需要大型數據中心,冷卻和電力消耗成本顯著。2.部署模式的影響,DeepSeek:偏向於小規模、本地部署,可能需要初始設備投資,但後續運營成本低,總體成本通常在數十萬至數百萬美元之間,具體取決於用戶需求。適合中小型企業或需要數據隱私的專業行業。 OpenAI:部署基於雲端,初始硬件成本分散於 Azure 數據中心,但總體硬件和基礎設施成本高達 數十億美元 級別。高昂的運營和更新需求使其總體擁有成本遠高於 DeepSeek。3. 總體成本比較,項目 DeepSeek及OpenAI,硬件購置成本中低(定制化伺服器,有限GPU數量)高(數萬片GPU,A100或H100為主),部署與運營成本私有化部署,冷卻能耗需求低雲端基礎設施,耗電量和冷卻成本極高,訓練成本低至中等(針對特定任務優化) 極高(單次訓練成本可達數百萬美元)總體成本範圍 數十萬至數百萬美元數十億美元以上。4.成本效益比較,DeepSeek:適合需要控制成本的企業或專注於特定場景的應用。高性價比,但在大規模模型訓練上不具優勢。OpenAI:成本高昂,但支持大規模通用應用,適合全球化和高度複雜的生成式AI場景。需要較高的投資回報才能平衡成本壓力。總結來說,DeepSeek 更加經濟,適合中小型或專業化應用;OpenAI 則以高投入實現高效能,目標是支撐全球規模的 AI 部署需求。

個人股市研究觀察記錄文章目錄