发布时间:2025-07-28 04:37:34 来源: 生活报
中新网上海7月27日电(记者 吴家驹 宋宇晟)被业界称为“AI教父”的辛顿26日现身在上海举办的2025世界人工智能大会(WAIC)。
在当日的主题演讲及对话中,这位诺奖、图灵奖得主,重点谈及人工智能安全问题,并呼吁不同国家应在人工智能治理上进行合作,探索训练AI向善的方法。
人类与人工智能的关系一直是公众关心的话题。辛顿在演讲中将这一关系形容为“养小老虎当宠物”。
“有人把老虎当宠物,小虎崽是很可爱的宠物。一般来说,养老虎当宠物不是个好主意。但如果要一直养着它,只有两个选择:想办法训练它让它永远不想吃了你,或者摆脱它。”
辛顿认为,对于AI,我们没有摆脱它的选项,AI对医疗保健、教育、气候变化、新材料等太多事情都非常有用,能为几乎所有行业提供帮助并使人类更具生产力。
在当日与上海人工智能实验室主任周伯文的对话中,辛顿进一步表示:“当今的多模态聊天机器人已经具有意识。”
辛顿认为,人类正在创造的AI智能体已经具备创造自己子目标的能力。而一旦拥有创造子目标的能力,智能体就会想做两件事:一是生存,仅仅是为了能够实现我们赋予它们的目标;二是更多的控制权,也仅仅是为了能够实现我们赋予它们的目标。
因此,如果人类想要生存,就必须找到办法训练AI向善。
辛顿建议建立一个由AI安全机构构成的国际社群,致力于研发训练AI向善的技术。
他认为,实现训练AI向善所需的技术与训练AI变得更聪明的技术,在某种程度上是分离的,让一个真正聪明的AI不想接管世界,即使它比大多数人聪明得多,也非常乐意处于人类的辅助角色。
辛顿认为,未来会有某种通用的AI训练方法,来使AI变得善良。“这可能并不真实,但我们应该探索这种可能性。”
“我们目前不知道如何做到这一点,长远来看,这是人类面临的最重要的问题。好消息是,在这个问题上,所有国家都可以一起合作。”辛顿说。(完) 🍵