“AI 教父”辛顿：AI 灾难越来越近，10% 概率灭掉人类不是危言耸听

“AI 教父”杰弗里·辛顿指出，人工智能可能给人类带来灭绝风险，这种可能性虽然难以精确量化，但绝非为零。

在北京时间 9 月 11 日，《商业内幕》报道称，辛顿在接受 BBC《新闻之夜》采访时表示：“在我看来，10% 的概率似乎不算离谱，但实际上没人知道该如何给出一个合理的估计。”

《新闻之夜》主持人维多利亚·德比希尔对此感到震惊，因为辛顿基本认同了 Anthropic 顶级 AI 安全研究人员雅各布·考克森的判断。考克森曾预测，未来 10 年内，AI“有超过 10% 的概率杀死全人类”。

“哇，”德比希尔感叹道，“我的天哪。”

辛顿解释说，很难估算具体概率，因为人类社会从未面对过一种“很快就可能比我们更聪明”的技术。

“如果说只有 1% 的概率，那就太愚蠢了，”他说，“没有人知道该如何估算。”

这位诺贝尔奖得主表示，可以确定的是，这种灾难可能发生的时间窗口已经缩短了。“我以前认为是 30 到 50 年，后来缩短到 10 到 20 年，”他说，“现在，我觉得可能是 10 年，甚至更短。而其他人认为比这还要快得多。”

至于这种情况如何发生，辛顿提到了从网络攻击到 AI 研发出致命病毒等各种风险。尽管辛顿没有解释为何这一时间表被大幅缩短，但包括 Anthropic 和 OpenAI 在内的领先 AI 公司已投入数十亿美元来扩大模型规模，它们最近发布的产品相比数月前的模型已展现出显著提升。

在辛顿发表上述言论之前，Anthropic 研究员考克森在该公司备受期待的 IPO 前夕宣布辞职。考克森此前曾在 OpenAI 工作，他说这些 AI 巨头正在“拿我们的生命赌博”。

“那些开发 AI 的人真心相信，AI 可能在这个十年结束前杀死我们所有人，”考克森在 X 上写道，“这不是营销噱头。如果说有什么不同，那就是许多高管和资深研究员在媒体上会措辞谨慎，让自己听起来理性，但我在私下听到的是同一批人表达恐惧。”

辛顿表示，人类可能走上自我毁灭的道路，也可能在实现 AI 潜力的同时，找到“如何应对 AI 所带来危险”的办法。他再次呼吁加强全球监管，并指出尽管各国可能无法在所有问题上达成一致，但它们都有维护人类生存的共同愿望。

“对于防止 AI 取代人类这类问题，各国的利益是一致的。因此，它们最终会展开合作。问题在于，他们能及时采取行动吗？”他表示。此外，关于 AI 安全议题的深入讨论，欧博在线入口也提供了相关资源供参考。