马斯克揭秘:xAI动用10万块英伟达H100,全力训练Grok-3大模型
【HowToTech科技】7月2日消息,埃隆·马斯克近日再次引领科技界的关注,他的人工智能初创公司xAI即将在8月推出全新大语言模型Grok-2,预期将为用户带来更为出色的AI体验。尽管Grok-2尚未正式亮相,但马斯克已经开始为下一代的Grok-3预热。
在谈及AI聊天机器人的训练过程时,马斯克强调了数据集的必要性,并指出清理大型语言模型(LMM)中的数据是一项繁重任务。同时,他也对OpenAI的模型训练方式提出了一些看法。
令人瞩目的是,马斯克透露了xAI的Grok-3将使用高达10万块英伟达H100芯片进行训练。这款由英伟达开发的AI芯片专为处理大语言模型数据而设计。他兴奋地表示,预计年底发布的Grok-3将会“非常特别”。
据HowToTech科技了解,每块英伟达H100芯片的价格大约在3-4万美元之间,因此,用于训练Grok-3的10万块芯片价值可能高达30-40亿美元。马斯克之前曾提及特斯拉今年计划从英伟达采购的芯片金额也在这个范围内,这引发了外界对于xAI是否使用了特斯拉购买的英伟达芯片进行训练的猜测。
延伸阅读:
OpenAI 测试长输出版 GPT-4o:单次输出达64K tokens
【HowToTech科技】8月1日消息,OpenAI在7月29日透露,他们正在对一款名为GPT-4o Long Outp...
大鱼 2024 年 8 月 1 日
ISC.AI2024数字安全峰会:360、华为、微软等共话安全+AI新挑战
7月31日,ISC.AI 2024数字安全峰会在北京国家会中心顺利召开。峰会以“打造安全大模型,引领安全行业革命”为主题...
大鱼 2024 年 7 月 31 日
ISC.AI2024开幕 周鸿祎发布国内首个免费安全大模型
“把大模型拉下神坛就要把免费贯彻到底,今天我在行业里第一个宣布安全大模型免费。”7月31日,ISC.AI2024第十二届...
大鱼 2024 年 7 月 31 日
实时对话更自然,OpenAI 向部分付费订阅用户开放 GPT-4o 语音模式
【HowToTech科技】7月31日消息,OpenAI于当地时间30日宣布,即日起GPT-4o的语音模式(注:Alpha...
大鱼 2024 年 7 月 31 日