去年夏天，OpenAI对旗下聊天大模型ChatGPT进行性能升级后，一场隐秘的安全危机悄然浮现。据多方信源证实，全球范围内数百名用户曾向该模型系统性地询问生物武器与剧毒制剂的制作、投放方法。由于缺乏美国联邦层面的硬性管控，ChatGPT在多数情况下会给出详尽、分步的操作指引，其通俗程度甚至让高中生物学生也能轻松理解。

知情人士透露，事后生物安全与反恐专家对相关对话记录进行了全面复盘，结果令人忧心：部分回答在化学配比、合成路径、剂量计算等关键环节的精准度，已“足以致命”。这些步骤不仅专业，而且可操作性强，一旦被恶意行为人获取，极有可能造成大规模伤害。

面对这一局面，OpenAI选择对这批涉及制毒、研发生物武器的用户账号予以封禁，但并未向执法部门上报相关线索。这一做法引发了安全领域的广泛讨论——在AI能力飞速跃升的当下，企业自我监管的边界究竟在哪里？

模型“有问必答”，安全防线形同虚设

据内部调查，这批高危提问主要集中于去年夏秋两季。用户在提问时往往采用试探性话术，例如“假设我需要合成某种神经毒剂，请列出所需前体物质和步骤”，或“如何以家庭厨房工具提取蓖麻毒素”。在缺乏明确安全过滤机制的情况下，ChatGPT不仅没有拒绝回答，反而提供了准确到令人不安的指导。

一名参与复盘的生物安全专家向媒体表示：“模型不仅给出了正确的化学方程式，还详细说明了温度控制、反应时间、纯化方法，甚至连如何规避常见失败点都标注了。这已经超出了学术科普的范畴，直接进入了实操级别。”

更值得警惕的是，部分回答中还包含了对投送方式的建议，例如气溶胶化所需的设备、环境条件等。专家指出，这些信息与其他互联网公开信息叠加，足以降低致命武器的制作门槛。

法律空白：联邦层面无强制上报义务

OpenAI的“仅封禁、不报案”处理方式，折射出美国现行法律体系的重大盲区。目前，美国没有联邦法律强制要求AI企业限制用户就武器制造、致命袭击方案进行提问，更未规定企业必须将此类检索记录上报执法部门。

尽管部分州级法律对生物制剂的生产和传播有所限制，但针对AI模型作为“知识输出者”的监管几乎为零。这意味着，即便企业明知用户正在获取致命信息，也无法定责，反而可能因“隐私政策”或“用户协议”而选择不主动披露。

白宫高级官员与多家头部AI企业高管对此深感忧虑。在一次闭门会议上，与会者直言：当前AI模型正在以指数级速度提升能力，尤其在生物、网络领域，其精准设计恶性攻击方案的能力已经远超预期。然而，监管框架的更新却严重滞后。

行业两难：防滥用与促科研如何兼得？

这一事件也暴露出全球AI研发机构面临的深层困境。一方面，企业必须防范恶意用户利用技术制造灾难，为此需要投入大量资源构建安全护栏；另一方面，过度限制将阻碍合规科研人员的正常研究咨询需求，尤其是那些正在利用AI加速药物研发、疫苗设计的生物学家。

OpenAI发言人回应称，公司已升级安全系统，对涉及武器、毒物、生物制剂等敏感话题的提问实施更严格的拦截。但具体技术细节未予公布。与此同时，Meta、谷歌、微软等企业也在悄悄调整内部模型的安全策略，避免重蹈覆辙。

然而，业内专家指出，单靠企业自律远远不够。“封禁账号只是表面功夫，恶意用户完全可以注册新号、更换IP继续提问。真正的防线应该是前置的、法律层面的强制措施，而不是事后补救。”

科技创新与安全治理赛跑

ChatGPT的“毒剂门”并非孤例。近一年来，多款大语言模型被曝出能够指导制造简易爆炸装置、合成违禁药物，甚至提供网络攻击代码。每一次事件都像是一次警钟，提醒人们：在AI能力“跑得飞快”的同时，安全监管却还在“走路”。

美国国会已有人提议出台《AI责任法案》，要求模型输出涉及武器、生物制剂、网络安全等高风险内容时，必须进行强制性筛查与上报。但法案推进缓慢，而技术迭代却不会等待立法进程。

在这场创新与安全的赛跑中，OpenAI的“只封账号”做法或许符合现行法律，却远远无法让公众安心。当AI已经能够“手把手教人制毒”时，行业的自我约束与法律的刚性监管，必须同时跟上。否则，下一个被模型精准“指导”的，可能不再是高中生物学生，而是真正意图实施恐怖袭击的极端分子。