马斯克自曝训练Grok3用了10万块NV H100:花了300亿

2024-07-03 16:34:16 来源:新浪微博 作者:IT之家 编辑:不凹就沁丶优格 浏览:loading

马斯克已经宣布其人工智能初创公司xAI的大语言模型Grok-2将于8月推出,将带来更先进的AI功能。虽然Grok-2还没亮相,但马斯克已经开始为其Grok-3进行造势。

游民星空

马斯克表示,训练AI聊天机器人需要数据集,而且从现有数据中清除大型语言模型 (LMM) 的工作量很大。他还谈到了OpenAI模型输出训练的几个问题。

他透露xAI的Grok-3用了10万块英伟达H100芯片进行训练,预计将于年底发布,相信它会“非常特别”。

游民星空

H100芯片是英伟达专为处理大型语言模型数据而开发的人工智能芯片,每块价格约在3-4万美元之间,简单计算的话,这些芯片的价值就高达30亿-40亿美元(约合290亿元人民币)了。

人喜欢
游民星空APP
随时掌握游戏情报
code
休闲娱乐
综合热点资讯
单机游戏下载
好物推荐
游民星空联运游戏
马斯克自曝训练Grok3用了10万块NV H100:花了300亿https://imgs.gamersky.com/upimg/new_preview/2024/07/03/origin_b_202407031634144331.jpg