不靠英伟达!科大讯飞:仅用1万张910B国产算力卡跻身大模型研发第一梯队

内容摘要快科技3月11日消息,日前,有投资者在互动平台向科大讯飞提问:贵公司目前拥有多少张算力卡?面对阿里千亿级投资,公司将在算力竞争上如何应对?对此,科大讯飞表示,过去几年在受限的有限算力资源条件下,关于星火大模型训练和推理成本效率的持续优化也做

快科技3月11日消息,日前,有投资者在互动平台向科大讯飞提问:贵公司目前拥有多少张算力卡?面对阿里千亿级投资,公司将在算力竞争上如何应对?

对此,科大讯飞表示,过去几年在受限的有限算力资源条件下,关于星火大模型训练和推理成本效率的持续优化也做了大量投入,和直接使用英伟达卡上开展的各种工程优化不同,科大讯飞选择了更难的全国产算力路线。

据介绍,大模型对算力的需求为训练和推理两个方面,而训练实现的难度远大于推理。

科大讯飞称,这就是虽然陆续有公司宣布可以在国产算力平台上提供大模型的推理服务,但仍只有讯飞星火一家是训练和推理均在国产算力上进行的,并且仅用1万张910B国产算力卡,科大讯飞用比友商少一个数量级的算力取得了大模型研发上的第一梯队成果。

同时,科大讯飞还做了大量国产算力平台上的无人区的适配和效率优化,追求国产算力的极致效率,这比在英伟达上的实现更需要技术实力和战略勇气。

不靠英伟达!科大讯飞:仅用1万张910B国产算力卡跻身大模型研发第一梯队

据媒体报道,科大讯飞2月透露了其最新的研发进展:公司正在全力训练的纯国产算力平台 星火X1 新版本,预计将在未来三个月内完成。

这一新版本的发布,预期就可以实现数学答题和过程思维链能力全面对标甚至超过OpenAI o1。

不靠英伟达!科大讯飞:仅用1万张910B国产算力卡跻身大模型研发第一梯队

 
举报 收藏 打赏
24小时热闻
今日推荐
浙ICP备19001410号-1