开云体育
开云体育清华AI新星如何以性价比推动国产芯片崛起
这项新技术将如何改变我们的日常生活?让我们一起看看,当技术革新与市场需求碰撞时,会产生怎样的火花。
在当前全球科技竞争的大背景下,美国政府对英伟达H20系列芯片出口至中国采取了无限期许可申请的要求,这无疑给中国的企业带来了不小的挑战。然而,这样的政策却意外地促进了国内芯片产业的发展。就在今年3月,位于北京的一家专注于AI智能算力基础系统软件的公司——清创极智,进行了深度对话,这家公司正致力于推动国产芯片的发展,并且他们最近开源的赤龙项目,可以帮助国产芯片更好地跑满血版DeepSeek。
深入探讨其工作原理,清创极智团队的核心成员多来自于清华大学计算机系高性能计算研究所,拥有超过十万台服务器超大规模国产算力集群使用和调优经验。他们通过算法创新突破了大模型硬件瓶颈,这很好地解决了当前国内算力不足的问题,为AI企业提供了一个创新样本。但是,DeepSeek的技术创新主要围绕着英伟达H卡架构展开,这意味着对于大多数尚未支持FP8的国产芯片来说,要部署DeepSeek满血版,还需要进行数据格式转换,有时会导致显存占用大、使用起来很卡的情况。
那么,如何发挥Infra层的作用呢?通过软硬协同,让优秀的国产大模型和国产硬件更好地协同起来,以及把市场上的闲置算力更好地利用起来,是清创极智始终在思考的事情。基于这样的想法,今年初,清创极智与清华大学共同开源了大模型推理引擎“赤龙”。
赤龙的出现对于国产算力而言是一股强大的驱动力。短期来看,它实现了DeepSeek FP8精度模型在存量GPU上的无损且高效部署。长期来看,赤龙的开源是国产大模型、国产算力和国产引擎闭环中的必要一环。在这个特别时期,我们看到了国产算力市场的活力被进一步激发。
随着整个大模型算力需求趋势从训练侧转向推理侧,相应的硬件供给矛盾也逐渐凸显。清创极智CEO指出,DeepSeek拉大了国产算力与英伟达之间的差距。尽管如此,赤龙项目的推出,实际上缩小了这种差距,特别是在促进国产算力替代方案的应用上起到了关键作用。
未来,随着AI基础设施的不断进步,我们有理由相信,国产算力将在国际舞台上扮演越来越重要的角色。这项技术不仅代表着一种可能,更是开启了一个新的篇章,一个关于自立自强的故事正在上演。返回搜狐,查看更多