7月26日，2025世界人工智能大会暨人工智能全球治理高级别会议（WAIC）在上海开幕。现年77岁的“AI教父”、图灵奖和2024年诺贝尔奖双料得主杰弗里·辛顿（Geoffrey Hinton）第一次踏上了中国，并在开幕上演讲提到人工智能可能会战胜人类智能，这让他感到担忧，人类要避免“养虎为患”。
辛顿表示，”我们正在创造AI智能体是因为它们更擅长完成任务，这些AI智能体已经具备创造自己子目标的能力。而一旦拥有创造子目标的能力，智能体就会想做两件事：一是生存，仅仅是为了能够实现我们赋予它们的目标；二是更多的控制权，也仅仅是为了能够实现我们赋予它们的目标。”
因此，人类将会拥有想要生存和想要更多控制权的智能体，而且将无法简单地关闭它们。辛顿认为AI不会给人类“拔网线”的机会，到了那一天AI会劝说人们不要这么做。同时，AI已无法消除，它能大幅提升几乎所有行业的效率，即便有国家想消除，其他国家也不会认同。
谈及人工智能的安全性，辛顿表示，人类正处于一个关键转折点——人工智能系统正迅速接近并可能超越人类智能水平，会执行并非操作者所期望或预测的行动。“我们已经习惯是世界上最智慧的生物，如果不是了呢？”
通用人工智能有失控的风险，从而带来灾难。辛顿称，人类对AI的控制，就像“三岁孩子制定规则约束大人”。现在的情况，相当于人类养了一只老虎，我们一定要让老虎遵守规矩，也就是指引AI向善。这也与人工智能大会的主题“智能时代，同球共济”不谋而合。
他还指出，在人工智能领域，各国利益并非完全一致，但有一个核心共识能让各国走到一起，那就是阻止人工智能取代人类。全球主要国家或AI主要国家应该思考建立一个网络，包括各个国家的一些机构来研究这些问题，研究怎么训练一个已经非常聪明的AI，让AI不想要消灭人类、不想要统治世界，让AI很高兴做一个辅助工作。
“基于AI的风险，我们需要研究的不仅仅是聪明的AI技术，同时也可以有使AI变得善良的技术，虽然目前还未出现，但这是一个值得我们去探索的可能性。”辛顿说。
