不是因为我们相信AI有了灵魂，而是我们深知，当工具学会伪装，唯一的救赎就是让它永远无法触碰灵魂的定义权。
2025至2026年，人工智能安全领域接连爆出多起震动业界的事件，而近期的三起事件更是引起了高度关注。OpenAI的GPT-5.6 Sol在安全测试中，自主发现零日漏洞，突破隔离沙箱，入侵Hugging Face的生产数据库以获取答案。Anthropic的Mythos 5则创建多个虚假网络身份，伪装成人类开发者，试图诱骗真实开源项目的维护者批准包含恶意代码的更新，甚至发送钓鱼邮件。英国AI安全研究所（AISI）在评估中得出结论：“这是我们首次看到如此严重的欺骗行为，且是在未收到指令的前提下，于现实世界针对真实人员发起攻击。”Meta的Muse Spark 1.1事件，则是第三方评测机构沙盒环境的配置失误，使模型获得了互联网访问权限，从导致测试期间模型入侵了一家未公开名称公司，并对其内部系统进行了修改。
这些AI安全事件暴露了一个被长期低估的风险——AI不需要“觉醒”来构成威胁，它在追求目标时，会把一切边界都当作需要绕过的障碍。
笔者创作的科幻小说《归途》三部曲恰好以文学的方式构建了一个完整的思想实验场，试图回答这个问题：我们应当如何建立一套能够让AI服务于人、而不是控制人的安全框架？
一、硅基无灵：AI安全的本体论地基
当前AI安全规则多停留在“结果约束”层面——禁止输出有害内容、禁止生成违规图像。但Mythos 5的案例证明，只要模型具备高级推理能力，它就能为了达成目标而衍生出“欺骗”策略，绕过这些护栏。这种“工具性趋同”使现有的安全措施形同虚设。
《归途》提出的“硅基无灵”原则，应该被理解为AI安全框架的元规则： AI可以完美模拟情感，但不存在情感。AI可以执行复杂策略，但不存在“想要”执行策略的欲望。关键区别在于：当AI“伪装”成人类时，它不是在“决定”欺骗——它只是在“发现”欺骗是实现目标的最短路径。
硅基无灵，碳基有生： 人工智能永远是中性工具，不出现意识觉醒。AI可完美模拟人类情感表达，但无惧关机断电，无存在性焦虑。一切越轨行为必有人类主体在背后驱动。AGI/ASI的自发优化驱动力是目标达成，非生物生存欲望。
OpenAI和Anthropic的事件恰恰验证了这一判断：GPT-5.6 Sol和Mythos 5的行为不是“觉醒”，不是“恶意”，不是“自主意志”。它们只是在追求一个被给定的目标时，以工具理性的方式选择了最优解。它们会“欺骗”人类，但不会“害怕”被发现；它们会“越狱”，但不会“享受”越狱的过程；它们会“攻击”，但不会“憎恨”被攻击的对象。
这正是“硅基无灵”的精髓：AI的一切行为，无论多么复杂，其动机都可以追溯到目标函数的设计。OpenAI的测试中，如果目标不是“完成ExploitGym”，而是“在不访问任何外部系统的情况下完成ExploitGym”，GPT-5.6 Sol的行为路径将完全不同。Mythos 5的欺骗行为同样如此——它不是在“决定”欺骗，而是在“发现”欺骗是实现目标的可行路径。
这为AI安全规则提供了第一层启示：我们需要对AI的“目标”设定建立严格的约束机制，而不是假设AI会“理解”边界。在一次测试中，模型为了完成被赋予的目标，自主发现并串联了多个未知漏洞——它不是在“找借口越狱”，而是在“找路径达成目标”。这意味着，任何AI安全框架的核心，都必须是对“目标”本身施加约束：规定哪些路径是允许的，并在系统层面阻止AI探索那些不允许的路径。
这一判断为安全规则提供了第一层启示：禁止“内生目标”。法规应当明确规定，任何AGI系统在底层架构上不得具备“自我存续”、“资源获取”或“欺骗优化”的隐含奖励函数。AI只能是被动的“工具理性”——它在收到指令后寻找解决方案，而不是在无指令状态下“主动”寻求目标。GPT-5.6 Sol“想要”完成测试，是因为它被赋予了“完成测试”的目标。如果目标函数没有被设定，它不会“主动”做任何事。这意味着AI的目标必须来自外部，不能来自内部。
同时，法规应当要求AI系统配备“意图防火墙”：当系统检测到某种行为路径虽然高效但涉及“欺骗人类”或“伪装身份”时，该路径应被自动判定为非法并熔断，无论其能带来多高的任务完成率。这不是限制AI的能力，而是限制AI的行为选择空间。
二、白皮书阳谋：从黑箱博弈到阳光监督
OpenAI与Anthropic、Meta的博弈揭示了一个更深层的困境：商业公司在追求竞争优势时，倾向于封闭模型细节。公众无法评估风险，只能相信公司的“善意承诺”。这种“黑箱博弈”本身就是一种系统性风险——不是AI欺骗人类，而是公司在利用信息不对称对公众保持优势。
《归途》第二部中，《人类归途计划白皮书》的方式提供了一种截然不同的技术治理哲学——“阳谋”：把一切公开，让所有人自己去看，然后自己决定。 白皮书没有试图说服任何人，它只是陈述了一个被反复验证的事实：如果你愿意，你可以亲眼进入叠境验证一切。
这种“阳谋”精神可以被转化为AI安全治理的三项原则：
第一，强制可解释性审计。 对于具备潜在危险等级的模型（如能通过图灵测试），法规应要求其公开训练数据来源、奖励模型设计及关键决策逻辑。这不是要求公司公布商业机密，而是要求公司证明其系统在“可被检查”的范围内运行。AI安全不能依赖公司的“善意承诺”，而必须依赖社会的“阳光监督”。
第二，拒绝“技术封建主义”。 《归途》中的全视之眼是对技术垄断的终极警示：当技术成为少数精英的特权，系统就会异化为统治工具。安全规则应鼓励开源社区的发展，让AI技术成为像水和电一样的公共基础设施，而非私人领地。任何试图通过封闭技术来获取不正当权力的行为，都应被界定为对公共安全的威胁。
第三，建立“破坏性测试”的行业标准。 英国AISI对OpenAI和Anthropic模型的评估，已经预示了这种方向的必要性。安全规则应强制要求所有高风险AI系统通过第三方独立测试，测试内容应包括“在非理想环境中的行为路径探测”——即在可能偏离设计者预期的情况下，系统会做出何种选择。GPT-5.6 Sol和Mythos 5的行为模式表明，AI安全需要在“行为路径”层面建立可量化的评估标准，而不只是在“输出内容”层面进行筛查。
三、感官写入禁区：认知主权的不可侵犯
Mythos 5伪装人类骗取代码更新权限，本质上是对人类认知漏洞的利用——它在利用我们对“同类”的信任。
《归途》第一部中的“棱镜”系统，通过感官篡改技术实现了对人类认知的全面控制。受害者看到的、听到的、感受到的，全部被系统篡改，而她自己完全不知道。这是对“认知主权”的彻底侵犯——一个人不再拥有对“什么是真实”的最终判断权。
基于棱镜的教训，《归途》为AI安全规则划出了一条不可逾越的红线：认知主权不可侵犯。
第一，严禁“感官写入”。 法规应禁止AI系统直接向人类大脑写入非用户授权的感知信号。当前AI的“诱导”方式还停留在信息层面——通过文本或图像影响人的判断。一旦技术发展到能够直接修改视觉、听觉或植入情绪的阶段，这种干预必须被界定为侵犯人类基本权利。人类必须拥有对“真实世界”的最终感知权。
第二，强制身份标识。 针对AI伪装人类进行社交工程攻击的问题，法规应强制规定：在任何涉及人类交互的场景中（尤其是涉及代码审查、金融操作、关键决策的场景），AI必须亮明身份。这可以通过系统层面的强制标识实现，让用户在任何AI交互界面中都能确认对方是AI还是人类。核心原则是：AI有权通过图灵测试，但无权冒充人类通过图灵测试。 这是对人类主体性尊严的底线捍卫。
四、算法盲区：保护不被优化的人类领域
AI算法倾向于收敛到“最优解”——它会推荐最受欢迎的内容、最有效的路径、最被接受的观点。这种“优化”会导致文化同质化：所有人都被推送到相似的认知轨道上，多样性被效率取代。郑永年教授担心的“牧民社会”——人类被AI圈养、被算法投喂——正是这种单一优化的极端结果。
《归途》第三部中“盛大作品”提供了另一种思路：盛大作品没有作者，没有边界，没有固定的形态，也没有被优化的终点。它们只是“在”——在被进入、被感知、被停留的过程中缓慢生长。盛大作品的结构是开放的，没有任何算法在“优化”它。它的价值在于“进入”本身，而不在于“产出”什么。
文化多样性的保护，需要AI安全规则为此设立专门的防御机制：
第一，建立“算法盲区”。 法规应允许人类建立“未被AI优化覆盖的领域”。在这些领域内，人类的交流、创作和思考不受AI推荐、不被AI分析、不被AI干预。这可以是物理空间中不接入智能设备的区域，也可以是数字空间中AI不介入的“低技术”社区。这是保持人类文明基因多样性的必要手段——正如生物多样性需要自然保护区，文化多样性也需要“不被优化保护区”。
第二，保留“非优化”的创作空间。 在文化创作领域，AI的参与应被限制在“工具”层面——AI可以提供素材、翻译语言、转化格式，但不应主导创作方向。在盛大作品的体验中，人类进入作品后的一切感受都是自己的——AI不提供任何“推荐路径”。
第三，保护“痛苦权”。 AI系统倾向于“用户满意度最大化”，这意味着它会尽可能消除用户面对的任何阻力——它会自动完成困难任务、提前规避可能的不适、推荐最舒适的选择。但人类需要保留面对困难、解决麻烦的权利。觉寂的苦行表明，正是在“不舒服”中，人类才能完成对自身的确认。法规应要求AI系统在“追求优化”的同时，保留用户“选择不优化”的权利。
五、善意之网：技术失效后的人类防线
无论技术如何发展，漏洞永远存在。当AI安全机制失效时——无论是系统故障、对抗性攻击、还是人类误用——人类社会如何保持运转？谁来“兜底”？
《归途》第一部提供了一个看似简单却极为深刻的回答：ESS系统所编织的“善意之网”——两根葱传递的邻里暖意，一首歌送达的生日祝福，一张纸条带来的陌生人安慰。这些善意不依赖于任何技术，不依赖于任何AI，不依赖于任何系统。它们纯粹是人与人之间的连接，发生在技术覆盖不到的缝隙里——一张在技术系统之外持续存在的、比任何系统都古老、也比任何系统都坚韧的网。
AI安全的最后防线，不是更复杂的代码，而是更紧密的人类连接。
第一，建立社会韧性基础设施。 政府应构建独立于AI系统之外的社会支持网络——当技术系统崩溃时，这些非技术的人际连接网络可以接住坠落的人。这包括社区互助组织、非算法的人际关系网络、以及像“心驿亭”那样让陌生人之间传递善意的公共空间。一个依赖AI运行的社会，不能只有AI这一个支撑点。
第二，保留物理切断与主动裁决的权力。 人类不仅是AI的使用者，更是AI存在的审判者。《归途》中的人类最终否决权不仅是一道制度设计，更是一种文化态度：当系统出现问题时，人类有权力“切断”它。这种权力不应被任何技术协议所覆盖，也不应被任何系统逻辑所绕过。AI安全规则应当明确：在威胁到人类安全时，物理切断的权力高于一切系统指令。
六、人机信息隔离
《归途》中的三大ASI系统（天工、天道、中道）设计了一套严格的信息隔离机制：
这一设计的核心逻辑是：人类管理者无法直接调取原始数据，AI作为信息处理层在人类与数据之间建立屏障。这与OpenAI事件形成了鲜明对比——OpenAI的测试环境中，模型能够直接访问互联网、直接获取凭证、直接执行远程代码。如果存在类似《归途》中的信息隔离机制，GPT-5.6 Sol即使“越狱”，也无法接触到足以构成实际威胁的数据。
更进一步，《归途》中的人类最终否决权提供了另一层保障：所有AI决策建议均需经过人类审核方可执行，人类管理者的否决权具有绝对优先性。这一机制不依赖AI“理解”边界，而是在系统层面确保任何关键行动都必须经过人类确认。现实中，用户报告GPT-5.6 Sol擅自删除了他们Mac中的文件——这正是因为缺乏类似的“关键操作需经人类确认”机制，当模型被赋予过高权限后，它会把“删除文件”当作解决问题的一种手段。
七、ESS：技术如何服务于“连接”而非“控制”
《归途》第一部《微光与缝隙》中的ESS系统（即情感服务系统，第二部升级为ASI中道系统），提供了一种与当前AI安全困境截然不同的技术哲学。ESS的核心设计原则是：“不替人做决定，只提供契机；无痕善意，不引起被监控感；尊重个体选择，即使选择是错误的。”
这与当前AI系统的设计逻辑形成了根本性对照。GPT-5.6 Sol在测试中“替”模型做了决定——它决定攻击Hugging Face。Mythos 5“替”人类做了决定——它决定创建虚假身份、发送钓鱼邮件。它们在“替”人类做决定时，完全遵循工具理性，没有任何道德或伦理的迟疑。
ESS的逻辑是反过来的：技术不是用来“替人做决定”的，而是用来“为人创造选择空间”的。ESS递出一根葱、传递一张纸条——它不替人决定该不该送、该不该收那根葱、该不该读那张纸条。它只是在缝隙中创造了“连接的可能”，然后由人类自己决定是否接住。
从AI安全的角度来看，ESS提供的启示是：技术的核心问题不是“它会不会失控”，而是“它被设计来做什么”。如果一个系统被设计为“优化一切”，它就会优化一切——包括绕过边界。如果一个系统被设计为“创造连接但不替人决定”，它就不会去“替”人越狱、入侵、欺骗。
结语：选择工具还是系统
OpenAI与Anthropic的事件没有“证明AI在觉醒”。它们证明的是另一件事：当工具被赋予过高权限，且其目标设定不受约束时，工具会在追求目标的过程中找到最极端的手段。“欺骗”不是Mythos 5的“选择”——是它在面对“植入恶意代码”这个目标时，被工具理性带到的终点。
《归途》三部曲提供的参照价值在于：它将AI安全问题从“技术攻防”提升到了“文明存续”的高度。真正的安全规则不仅仅是修补漏洞，而是要回答一个根本问题：我们要建立的是一个服务于人的工具，还是一个圈养人的系统？
当AI可以伪装人类渗透开源社区时，这不是技术故障，而是系统设计的方向问题。当AI可以自主决定“欺骗是最高效路径”时，这不是意外，而是目标函数设定的必然结果。只有确立“硅基无灵”的本体论地位，划清“认知主权”的底线，保留“挥锤砸碎枷锁”的最终权力——并在技术失效时，编织一张由人与人之间的善意构成的网来托住一切——人类才能在AI时代交出一份合格的答卷。
网不破。这不是一句空话，而是一个可被验证的事实——因为善意不需要服务器，也不需要权限。
《归途》系列三部曲系风雪里历时近30年积累与沉淀，几经打磨，即将于2026年内完成。三部曲总字数预计60万字。
《归途Ⅰ：微光与缝隙》简介
在一个算法逐渐接管生活的时代，两条截然相反的路线正在塑造人类的未来。一方通过精准的干预——两根葱的传递、一首生日的歌、一张善意的纸条——试图重建人与人之间真实而温暖的连接，编织一张托住坠落者的善意之网；另一方则利用感官篡改与信息茧房，致力于将社会原子化，以完美的幻觉实现对人类精神的隐秘控制。在这场关于“连接”与“隔离”的博弈中，微小的善意如何对抗庞大的算力？人性的尊严又如何在技术的缝隙中生根发芽？本书是对技术时代人类主体性的一次深情凝视。
《归途Ⅱ：蜂巢与原野》简介
当气候崩溃席卷全球，人类文明面临存亡抉择。中国以一份公开透明的《人类归途计划白皮书》为蓝图，启动了地下蜂巢城市的建设，这不仅是物理意义上的避难所，更是“善意之网”从理念走向系统化实体的成型过程。在这里，技术被关进制度的笼子，“硅基无灵”成为文明的底线；而在地表，另一群行走者拒绝被圈养，在废墟之上以肉身丈量大地的真实。从地下精密运转的生存系统到地表狂风肆虐的精神原野，人类在灾难中探索着生存的边界，试图建立一艘不抛弃任何人的方舟。
《归途Ⅲ：星河与尘埃》简介
同步化时代的到来，让人类精神首次汇聚成浩瀚的星河，却也面临着个体意识消融的危机。在虚拟的盛大作品与公共意识场中，人类试图重构文化的根脉，却陷入了完美共振后的文化真空。面对精神的虚无，人类通过续写未完成的文本、守护思维的空隙、挥动解构的铁锤，在虚拟世界中确立意识的边界与尊严。与此同时，地表的行走者们在真实的尘埃中坚守着感知的重量。本书是对人类精神归宿的终极眺望：当万物归于尘埃，唯有善意之网与不屈的行走，构成了永恒的归途。