二十五年前是密码学,今天是大模型权重
当美国政府在上世纪九十年代末逐步放宽密码技术出口管制时,很少有人会想到,这场“加密战争”会在四分之一个世纪后以另一种形态卷土重来。如今,人工智能大模型的“权重”——也就是神经网络经过海量训练后习得的参数——正被视为新时代的“密码学”。各国监管机构、科技公司和开源社区围绕“模型权重该不该被管控”的争论,已经演变为一场新的地缘政治与安全博弈。
二十多年前,密码学曾是国家安全和商业创新之间的核心矛盾。克林顿政府时期,美国出于执法和情报需要,将强加密软件列为“军需品”,限制出口。那场争议以产业和公民社会的胜利告终:1999年,美国正式允许商业软件使用强加密算法出口,原因是密码技术已像空气一样广泛存在,单边管制既无法阻止扩散,也削弱了本土企业的全球竞争力。这段历史被反复引用,成为技术治理的重要镜像。
如今,类似的焦虑正在投向AI模型权重。一个具有强大能力的开源大模型,可以被任何组织或个人下载、微调甚至直接部署。它既能用于代码生成、科学发现,也可能被滥用于网络攻击、生物武器设计或大规模虚假信息制造。2023年,当Meta发布开源模型Llama系列后,担忧声浪达到顶峰。美国商务部的出口管制清单中,对高端AI芯片已实施严格限制,但对模型权重本身,尚未有全球统一的约束框架。然而,美国智库和国会多次提出,应建立模型权重的出口许可制度,甚至要求托管平台对开源权重进行“负责任的发布”审查。
支持管控的论点并非没有根据。前沿模型的能力已远超一般软件,且迭代速度极快。一旦失控,其潜在危害可能是不可逆的。安迪·沃茨等网络安全专家曾警告,恶意使用AI进行自动化漏洞挖掘或精准钓鱼,将显著降低攻击门槛。而模型权重作为“数字制造图纸”,一旦泄露,几乎没有物理回收的可能,这比芯片出口管制更难执行。
但反对者从历史中汲取了教训。他们指出,密码学管制失败的根源在于技术传播的多节点性——算法可以印在书上、嵌入开源代码,甚至转化为数学概念。模型权重虽然体积庞大,但经过量化、剪枝和蒸馏后,一个70亿参数的模型可以被压缩到数十MB,通过P2P或加密隧道轻易流通。更关键的是,权重并非不可再生资源:只要掌握训练方法和数据,任何人都能在云端重新训练出类似能力的模型。管制权重就像试图阻断河水的某一股支流,最终只会把开源的土壤逼向更密闭的暗网。
值得关注的是,不同经济体已经出现政策分歧。中国在2023年发布的《生成式人工智能服务管理暂行办法》侧重于服务端的内容安全,对开源模型采取备案制;欧盟的《人工智能法案》则对通用AI模型提出透明度与风险评估义务,但尚未直接限制权重传播;而美国的做法更趋攻防兼备——既限制芯片出口,又在讨论是否将“前沿模型权重”纳入出口管制类别。
这场辩论的核心矛盾,与二十五年前如出一辙:如何在开放创新与安全管控之间取得平衡?密码学给出的答案是,算法本身可以被禁,但数学无法被禁;同样,模型权重也许可以被监控,但智能的扩散趋势难以逆转。一些技术社区正在探索“可控开源”的中间路线——例如分层发布、安全微调、或者对高危能力进行“对齐锁”。但历史经验一再证明,任何把技术钉在国境线内的努力,最终都会在全球化与开源协作的浪潮中被冲淡。
或许,我们正站在新的“加密战争”的黎明。二十五年前,政策制定者最终承认密码学是民事工具而非军事机密;今天,他们不得不面对一个更为棘手的命题:人工智能的“数字基因”,究竟属于无人可以垄断的公共知识,还是需要被严加看管的新式武器?答案,将决定未来十年科技治理的走向。