

此前行业过度聚焦训练算力,砸重金用数万张芯片训练大模型,却忽视AI落地关键在推理ChatGPT每日5亿次用户提问、工厂测次品、医院看CT、手机当翻译等场景,均需依赖推理算力,未来这类需求或暴增1万倍。
他强调,训练与推理的算力需求本质相悖:训练需暴力计算与高精度,不惜成本;推理则追求快、省、稳,需0.1秒内出结果,适配手机、工厂设备等终端。强行“训推一体”只会浪费资源,而
周鸿祎认为,推理芯片门槛低于训练芯片,无需攻克全能难题,更侧重极致优化,对中国而言是弯道超车的机遇。
抓住推理算力,才能让AI深入千行百业,从“能读清华”的知识积累阶段,迈向“真正赚大钱”的产业价值释放阶段。