Kimi发布技术报告获马斯克点赞,联合创始人杨植麟、吴育昕、周昕宇署名

robot
摘要生成中

3月16日,月之暗面Kimi发布技术报告,对大模型十年没有变化的核心结构残差连接行重新设计,使每一层能够选择性地关注此前各层输出,而非统一求和,48B模型训练效率提升1.25倍,被行业解读为提前预告了下一代模型的关键模块。

月之暗面三位联合创始人杨植麟、吴育昕、周昕宇带领数十名研究员完成了这项研究。

论文发布后,马斯克评价Kimi的研究令人印象深刻,前OpenAI研究科学家Andrej Karpathy表示该研究真正践行了“Attention is All You Need”的理念,推理之父、前OpenAI研究副总裁Jerry Tworek认为,深度学习2.0来了。

本文来源:澎湃新闻

风险提示及免责条款

        市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论