据媒体报道,近日,中国AI公司月之暗面发布新一代Kimi K3,参数规模达2.8万亿,为目前全球参数最大的开源模型。
据悉,Kimi K3模型原生支持图像输入和100万Token上下文,采用Kimi Delta Attention、注意力残差以及高度稀疏的混合专家架构,处理每个Token时仅从896个专家中有效激活16个,以提高算力利用效率。
月之暗面称,相关架构和数据训练方法使其整体扩展效率较Kimi K2提高约2.5倍,并补充道Kimi K3在内部评估中,端到端知识工作能力领先GPT-5.5和Claude Opus 4.8。
值得注意的是,在Kimi K3发布后不久,马斯克在相关评测报道评论区留言:“令人印象深刻。”而这是他继今年3月点赞Kimi底层架构技术报告后,第二次公开认可该团队。
但赞赏余温未散,7月18日,马斯克再次发表评论称,我们的2万亿参数模型将在下周完成初始训练,并称其全面优于1.5万亿版本,且“可能超越Kimi”。
而面对马斯克的隔空“宣战”, Kimi官方回应称:欢迎马斯克加入“2万亿+俱乐部”。
好姐妹借男友谈恋爱 男人听了会兴奋的囧图
4499元玩3A!国产游戏平板被抢完 7月24日再补货
《古墓丽影》新片来了!劳拉肉腿腾空太灵活
Switch2重大漏洞惨遭曝光!破解大门正式打开
PS港服新会免上线!《浪人崛起》《阿凡达》领衔
《风暴英雄》更新!全新皮肤上线 国服何时回归?