这种不可逆转的趋势将自上而下穿透整个技术栈:当 AGI 到来,今天的应用或许都要被重构为 AI 原生,甚至不再需要这些应用;操作系统可能被重写,未来你打开电脑,看到的将是一个“LLM OS”,所有功能按需生成(generate on demand);再往深处,是对运行了八十年的冯 · 诺依曼体系的挑战。金融、法律、电商、互联网…… 没有一个行业会置身事外。很多朋友找到我,说想变革企业、追赶 AI 的步伐,但真正洞察到“这场不可逆变革已然开启”者,仍属寥寥。
其三,完全自我训练(Fully Self Training)。在人类高质量数据即将耗尽之际,把算力转化为进化的燃料 —— 建设高质量合成数据工厂,通过 AI 与 AI 的博弈对抗(Self-Play)实现知识的“无中生有”,并在安全沙盒内赋予系统重构自身代码的能力,让进化速度挣脱人类工程师的物理限制。
其四,极致安全治理。这是四大引擎中我最想着重强调的一个。
能力越强大,安全约束机制也必须越稳固。智谱创立伊始即确立准则:AI 必须服务于人类福祉,服务于国家战略。公司摒弃外挂式安全补丁,坚持将人类伦理、社会规范及国家法律法规作为底层公理写入模型价值函数;计划投入百亿级资源攻坚“机械可解释性”,厘清模型决策背后的神经元逻辑,推动黑盒系统向透明可解释系统转变;同时积极参与国际 AI 治理,防范 AI 技术被滥用。
这种紧迫感并非杞人忧天。当海外最前沿的顶级模型因风险考量而暂缓全面公开发布,其企业负责人公开警示 AI 的深远影响将深刻重塑全球力量格局时,我们更应清醒:超级智能的实现与超级对齐的研究,必须同步推进。这也是我们在面对颠覆性技术时反复审视的命题 —— 历史一再表明,当一项技术抵达足以改变文明进程的力量量级时,安全就不再是附属品,而是技术得以存续与被允许应用的根本前提。