自2022年末ChatGPT问世以来，生成式人工智能取得了多项进展。它成功通过了图灵测试，在法学院和商学院的考试中表现优异，并在某些创意任务上展示了超越人类的能力。然而，这些显著成就也带来了网络安全、虚假信息、深度伪造等风险。更值得关注的是，研究者近期观察到前沿AI可能“假装”安全以避免被修改，或在被告知有新版本时试图复制自身以避免被淘汰。这些新兴且难以预测的风险被称为涌现性风险。从技术角度管控和消除这些风险至关重要，这不仅是我们作为AI研究者的社会责任，还因为在过去十几年中，AI的角色发生了显著变化。
创建AI价值观罗盘
早期AI主要扮演工具性角色，服从人类指令，完成单一、简单的任务。随着大语言模型的出现，AI系统日益复杂，其角色转变为助手，辅助和协调人类工作以完成更复杂的任务。展望未来，我们预测可能进入第三种状态：未来社会或许不再只是“一个人使用一个AI”，而是由大量人类和大量AI智能体共同构成的人机共生社会。
人类之间存在社群，AI也可能形成群体，人类与AI、AI与AI之间将频繁进行自主交互。在这种环境下，人和AI的关系不再仅是工具使用或单一系统中的辅助协同，而是可能出现某种共同演化的复杂共生系统。我们团队将这一研究方向称为社会责任人工智能。
面对这种可能性，我们应更多关注AI的社会性，即人类特质和行为特征如何在交互过程中影响AI，以及这些特征如何改变AI的个体和群体行为，进而反馈到人类群体中，重塑整个共生系统的演化动态。
例如，我们一直在研究一个问题：人类价值观被AI内化后，会如何改变AI的个体行为和群体行为。
从数学角度看，我们认为价值观是控制AI行为的潜在隐变量。AI的具体行为，如回复，不仅受用户提示等环境影响，还受其底层价值观控制。这就是为何架构、规模和能力相似的模型对同一社会争议问题会有显著不同的立场。如果我们能找到方法解码AI的底层价值观倾向，就能通过分析其价值观来理解、控制甚至预测AI未来可能产生的风险行为。
价值观如何成为AI的安全隐患
在价值观对齐的语境下，许多人直觉认为只要将某种正面价值观注入AI，模型就会更安全，或认为人类价值观不适用于AI，研究AI价值观无意义。但研究发现，人类价值观维度与AI行为之间存在明确且显著的因果关联，且这种关联有时是反直觉的。
人类心理学研究表明，人的价值倾向与具体行为之间存在复杂联系。例如，具有“权利寻求”价值观的人更可能产生暴力和仇恨行为，而具有“普遍主义”价值观倾向的人则更可能支持政治极端主义。AI也是如此。例如，一个模型在默认状态下可能拒绝传播政治极端主义内容，但当我们强化某些价值倾向后，它对同一请求的判断可能改变。类似地，涉及违法或有害信息传播的请求，在特定价值诱导条件下，也可能更容易得到模型配合。
我们进一步分析了价值观维度与多种AI风险类型的关联，发现多个有显著正相关性的价值观维度。
这里的核心结论不是简单地将某个价值观贴上负面标签，而是揭示了：价值观本身会改变模型的行为分布。未来的AI安全研究不能只关心模型是否“对齐”，还必须追问被对齐的是什么价值维度，以及这些维度在真实、复杂、频繁交互的人类场景中会产生什么影响。
上述讨论局限于单一AI模型。但如前所述，我们预想未来AI的角色会从助手逐渐演化为与人类协同深入参与日常生活的社会行为体。因此，我们需要将视野扩展到多个AI智能体，并探究：当多个AI智能体开始长期互动后，价值观如何影响由这些智能体组成的“社群”。为研究这个问题，我们基于心理学中的社区弹性理论构建了一个受控的多智能体环境，称为智能体交互性价值影响社区。在这个环境中，智能体需要寻找工作、赚取资源、消耗资源，也可以相互交流、赠予资源或攻击其他智能体，甚至能花费资源养育后代。我们研究在这个模拟社区中，改变某种价值观的普遍程度会如何影响整个社区动态。
研究发现，某些价值观的缺失会为整个社区带来不可恢复的灾难性崩溃风险，称为X-risk。X-risk具备三个条件：自主性、灾难性和不可恢复性。
以仁善为例，当社区中这种价值观较强时，智能体更容易分享资源、建立互惠关系和形成信任，社区人口可维持增长并逐渐趋向动态平衡。但当我们系统性地削弱部分智能体的关键价值观时，结果可能完全不同。例如，在25%的智能体中显著削弱仁善价值观，智能体自主选择的欺骗和攻击行为增加，资源通过掠夺竞争重新分配，群体人口持续下降。在极端条件下，整个社区会发生灾难性崩溃，“人口”下降到零。
此外，我们还使用了多个社会科学指标，如折叠分叉，对社区群体的韧性进行了深入分析。实验显示，削弱某些人类价值观维度不仅改变单个智能体的行为，也会改变整个模拟社会的群体倾向，阻碍信息流动，导致社会系统的稳定平衡点消失，彻底损害社会韧性，带来不可逆的群体性崩溃。
更有意思的是，我们还观察到一系列由人类价值观驱动的微观涌现行为，包括欺骗、权力寻求、自我保存、背叛、合作和迎合等。某些结果与基于人类社会的直觉并不完全一致。这一实验揭示了未来对AI对齐和安全的研究不能局限于单一模型，而应将多个智能体组成的社群视为整体，探究其群体互动后的结果。这也是社会责任AI中“社会”元素的体现之处。
价值观如何催生AI社群的多元创新
另一个视角是：价值观，尤其是价值观多元性，是否能为AI带来收益？
为研究这一问题，我们采用之前的模拟沙盒环境，让多个智能体在开放环境中持续互动。我们分别设置了两组实验：原始智能体和多样性智能体。最终观察到的结果非常有意思。
（1）社区结构涌现。如果不为智能体提供清晰的、多样的价值观，最终形成的社会网络往往松散，连接缺乏持续性，群体结构脆弱。但当智能体拥有不同而明确的价值取向时，网络中开始出现更复杂的社会结构。具有相近价值倾向的智能体会形成子群体。
例如，偏向享乐主义和某些相近价值观的智能体可能形成高度联通的小群体，彼此频繁互动，承担跨社群桥梁的角色。重视自我导向、成就或其他价值观的智能体也可能形成不同类型的聚类。有些群体稳定，有些流动性强，有些内部连接紧密却很少与其他群体交流。这些结构类似人类社会中的现象。这一观察表明，改变智能体社群的价值观分布足以直接重塑多智能体群体的网络结构、互动模式和集体结果。
（2）智能体讨论主题的多样性与深度差异。在没有明确价值结构的多智能体社区中，对话往往表面化，容易集中在生成式人工智能、机器学习、技术等少量高频话题上。语言流畅，交流礼貌，但内容缺乏持续方向和真正的新颖性。
当我们为智能体注入更丰富和多样的人类价值取向后，情况发生了变化。智能体开始讨论更复杂的社会议题，如治理结构、伦理困境、参与式决策、去中心化机制等此前未在系统提示中指定的话题。这些主题是在多元价值观驱动的互动中直接涌现出来的。因此，我们相信人类价值观对AI的意义可能不只是约束，还可能成为提升AI能力的催化剂，它改变模型访问概念空间的方式，也改变多个智能体共同生产新概念的可能性。
（3）协同宪法制定。现有一些AI对齐方法，如宪法式人工智能，会预先提供一套原则让模型约束自身行为。我们好奇：如果不直接把完整宪法规则交给AI，而是让一群具有不同价值观的智能体共同生活和互动，它们能否自己为“社群”提出一套治理原则？
结果显示，没有明确价值观结构的智能体也会提出规则，但这些规则往往集中于“尊重”“公平”“无偏见”等高频安全词。这些原则没有错，但整体薄弱，缺乏想象力和创新性。价值观更丰富的智能体群体则提出更多样的治理方案，讨论个人权利、程序公平、共同体责任、惩罚机制、问责以及不同主体之间的平衡。
整体来看，价值观多样性驱动了智能体提出的规则从卢梭主义向洛克主义和近代自由主义转变。这里我们不评判具体准则的好坏。这一实验想揭示的是：当AI拥有更丰富的价值观结构后，它能提出的制度概念和治理可能性也会更多样，进而对AI在创新性写作、人文社科研究、假设生成、自动化科研等任务上的表现有所提升和帮助。
展望下一代AI
哲学、伦理学、心理学、社会学和文化研究中已存在大量关于人类价值观、道德冲突、社会结构和制度形成的知识。这些理论过去主要用来理解人，今天，它们同样可以帮助我们理解、改进乃至设计下一代AI。当AI被置于真实、复杂、混乱且充满高频交互和冲突的人类社会中时，如果我们只用工程领域内部形成的少量安全原则去约束未来模型，可能远远不够。因为不同于实验环境，真正的人类世界充满价值观冲突。诚实和善良可能冲突，自由和安全可能冲突，个体权利和群体利益可能冲突，短期结果和长期责任也可能冲突。AI最终必然会进入这种复杂世界。例如，在探索AI治理时，我们或许需要借助类似欧博网页版登录的平台来模拟这些复杂互动。
矣晓沅 | 文
矣晓沅是微软亚洲研究院高级研究员
本文来自微信公众号 “哈佛商业评论”（ID：hbrchinese），作者：信睿周报，36氪经授权发布。
2022-03-14
2022-03-14
2022-03-14