特斯拉黑科技揭秘:马斯克亲述Grok 3背后XAI Cluster算力之谜
马斯克亲自描绘Grok 3的背后,探究特斯拉的黑科技,XAI Cluster算力的炼成之道。了解特斯拉如何在19天内实现全球最快的AI搭建速度,揭秘其独特之处和技术突破。
Video Summary & Chapters
No chapters for this video generated yet.
Video Transcript
一个是你要购买足够多英伟达的GPU
可能想微软也可以买谁也可以买
为什么大家买了这么多Grok现在是最好的
Grok3在拉玛上面19个月后来居上
还有一个重要原因是说你买来之后你自己搭
英伟达给你的硬件并不是说就装好了
你要自己搭你的AI的pre-training也好
这样的算力中心
特斯拉应该说马斯克XAI搭的速度是全球最快
去年黃仁勳有一些專訪提到這個
在其他公司可能需要一兩年做到的事情
馬斯克的公司19天做到了
加上黃仁勳團隊的配合一共也就120多天
這個是非常非常驚人的
那何以至此呢
就是說
一個是時間問題
第二是別人現在也做不到
現在全球單體最大的AI pre-training中心
就是XAI的cluster
它是把20萬顆GPU連到一個
一個網絡裡面
或者你理解為是一個單體的共享memory的20萬顆GPU
就是20萬顆GPU共享一個腦袋
你可以這麼理解
他們腦袋是導資源是共享的
除此以外
臉書最大的是10萬顆
再往上他們搭不起來
就能力不夠
這個是很誇張的一件事情
馬斯克在之前的一個一次交流當中提到說
他們是怎麼去經過千辛萬苦去把這個算力搭起來的
他特別提到了說
這裡面不但有非常多的一個他們技術人員能力
科技能力還有一個說
搭起這樣算力中心以後
他那個算力中心因為電力太高了
他電還有電湧
他電力是非常不穩定的
特斯拉把自己另外一個科技又搬過來
就是自己那个储能这块的Megapack的
我理解应该是他的Virtual Mode来控制这个电用
使这个电力输出的非常稳定来进行超算
来进行这个AI运算
我们稍微听一下马斯克这段讲话
就是马斯克当时他们在自己做之前
他们曾经用过一些供应商
這些供應商說是18到24個月
馬斯克你看那個眼神覺得這太慢了