“AI教父”辛顿:人类对AI没有“摆脱”这一选择,但应该找到“驯服”办法

article/2025/7/26 12:07:22

7月26日,2025世界人工智能大会(WAIC)正式开幕。图灵奖得主、诺奖得主、“AI教父”杰弗里·辛顿(Geoffrey Hinton)发表主题演讲再谈AI(人工智能)安全。

杰弗里·辛顿(Geoffrey Hinton)

辛顿表示,人类理解语言的方式实际上很像大语言模型,因此人类实际上很像大语言模型,也会产生幻觉,经常编造东西,特别是当他们试图回忆很久以前发生的事情时。但他也指出,大语言模型与人类非常不同且优于人类的是,计算机科学的一个基本原则是,该将软件与硬件分开,正是这一点让人们可以在不同的硬件上运行相同的程序,它使得计算机科学能够成为一个独立于电气工程的领域,如果你做到了这一点,那么程序中包含的知识就是“不朽的”。

辛顿进一步解释称:“如果你能把程序保存在某处,或者能把神经网络的权重存储在某个地方,那么你现在就可以销毁运行神经网络的所有硬件。只要你有权重存储在某个地方,你现在就可以建造新的硬件,并且因为计算是数字化的,你可以在这些新硬件上运行完全相同的计算。所以在这个意义上,数字计算机的程序是‘不朽的’。”

辛顿同时指出,数字计算需要大量能量,但它使得拥有完全相同权重的智能体(Agent)能够非常容易地共享它们从不同经验中学到的东西,生物计算需要的能量要少得多,但共享学到的东西却很困难。如果能源很便宜,数字计算就会好得多。

“这让我非常担忧,因为几乎所有的专家都相信我们将制造出比我们更聪明的AI。我们如此习惯于作为顶尖智能,以至于很多人难以想象一个AI比我们更聪明的世界会是什么样子……”辛顿表示,想知道非顶级智能体的感受?不妨问问鸡的生存体验。

辛顿认为,我们正在创造AI智能体是因为它们更擅长完成任务,这些AI智能体已经具备创造自己子目标的能力。而一旦拥有创造子目标的能力,智能体就会想做两件事:一是生存,仅仅是为了能够实现我们赋予它们的目标;二是更多的控制权,也仅仅是为了能够实现我们赋予它们的目标。因此,人类将会拥有想要生存和想要更多控制权的智能体,“而且我们将无法简单地关闭它们,它们会发现操纵使用它们的人非常容易,我们将像三岁小孩,而它们将像成年人,所以我认为那种当它们比我们更聪明时,我们就能让某人把它们关掉的想法是不切实际的,它们将能够操纵我们,并说服那个应该关掉它们的人不要那么做”。

辛顿将人类目前的处境比作养小老虎当宠物,小老虎非常可爱,能成为很好的宠物,但需要确保当它长大后它不想吃了你。“一般来说,养小老虎当宠物是个坏主意,有两个选择:想办法训练它让它永远不想吃了你,或者摆脱它。”辛顿表示,对于AI,我们没有摆脱它的选项,AI对医疗保健、教育、气候变化、新材料等太多事情都非常有用,能为几乎所有行业提供帮助并使人类更具生产力。

辛顿表示,如果人类想要生存,必须找到办法训练AI,不要让AI消灭人类。

辛顿指出,目前没有一个国家希望AI接管,每个国家都希望人类继续保持掌控权,如果任何一个国家找到了防止AI接管的方法,他们会非常乐意告诉所有其他国家。因此,他建议建立一个由AI安全研究所和协会组成的国际共同体,致力于研发训练AI向善的技术,实现训练AI向善所需的技术与训练AI变得更聪明的技术,在某种程度上是分离的,让一个真正聪明的AI不想接管世界,即使它比大多数人聪明得多,也非常乐意处于人类的辅助角色。

“我们目前根本不知道如何做到这一点,长远来看,这是人类面临的最重要的问题。好消息是,这是一个所有国家都应该能够合作解决的问题。”辛顿最后如是说到。

本次世界人工智能大会以“智能时代 同球共济”为主题,共规划了超100场专业论坛,汇聚1200余位全球专家,12位图灵奖、诺奖得主,大会将持续至7月28日。

    责任编辑:孙扶
    校对:施鋆

    http://news.xdnf.cn/lqULGrawLG

    相关文章

    时隔21年,“75后”吴丹重回母校华中师大担任副校长

    近日,华中师范大学(以下简称“华中师大”)官网“现任领导”栏目更新显示,此前长期在武汉大学任职的吴丹,已于2025年7月任华中师大党委常委、副校长。公开资料显示,吴丹,女,汉族,1978年6月生,中共党员,研究生学历,博士学位,二级教授,博士生导师。她是华中师大信息…

    《花园与父亲》摘得10万大奖,澎湃·镜相第二届非虚构写作大赛获奖结果揭晓

    7月25日上午,在由上海报业集团澎湃新闻主办的“变革新生”2025外滩新媒体年会上,第二届“澎湃镜相”非虚构写作大赛获奖名单揭晓。其中获“澎湃七猫特别大奖”的作品是黄旭东的《花园与父亲》,奖金10万元;获“澎湃七猫特别奖”的是范雪的《一条大河:共和国大厂的记忆》、欧…

    河北涿州突降暴雨,居民称“开车像开船”,当地:交通正逐步恢复

    7月24日下午开始,河北省涿州市遭遇强降雨天气,截至25日9时,全市平均降水量137.2毫米,最大降水量为中国农大实验场站点190.8毫米。25日上午,涿州市防汛抗旱指挥部将防汛应急响应由Ⅳ级提升为Ⅲ级。网友拍摄的视频截图据多位涿州市民拍摄的视频显示,多处街道因地势低洼积水…

    泰国军方向中美等26国发函:柬埔寨率先开火并袭击平民

    当地时间7月26日,泰国陆军情报局通过驻外武官渠道,向26个国家发出正式函件,称柬埔寨军队是率先发动攻击一方,柬方的攻击针对泰国平民、社区和医院,严重侵犯泰国主权。此次发函的对象包括美国、中国、俄罗斯、法国、英国、德国、澳大利亚、日本、韩国、土耳其、巴基斯坦、加…

    消除血管内钙化斑块、胰岛素周制剂研究成果,这些医疗成果将进博首秀

    今年的进博会,会有哪些医疗领域的“黑科技”首发首展?在第八届进博会倒计时100天即将来临之际,全球领先的医疗健康公司雅培、生物制药公司诺和诺德提前剧透了第八届进博会展示的新产品、新技术。可消除血管内钙化斑块的系统将进博首秀雅培核心诊断业务中国副总裁谭敏杰介绍,…

    特朗普抵苏格兰:为高尔夫球场剪彩,或将与欧盟达成贸易协议

    据央视新闻报道,当地时间7月25日,美国总统特朗普开启了为期四天的苏格兰之行。根据官方公布,此次访问,特朗普一方面要为家族新建的麦克劳德高尔夫球场(MacLeod Course)剪彩,另一方面要与英方高层讨论贸易等议题,被称作“私人工作访问”。除了打高尔夫球,他还会出席双边…

    成都世运会火炬“竹梦”抵达金沙遗址博物馆

    7月26日,火炬手马龙在传递火炬。当日,第十二届世界运动会火炬传递活动在四川举行。新华社记者 刘坤 摄7月26日上午10时28分,成都世运会火炬“竹梦”抵达成都金沙遗址博物馆。火炬传递第二站活动于金沙遗址博物馆南大门音乐广场举行。作为中国进入21世纪后第一个重大考古发现…

    东莞中考试水跨市配置学位:邻市惠州两所高中开放招生,有学校补录即招满

    目前,各地中考后陆续进入录取阶段。在入学人口进入高峰、学位紧张的当下,多地近年多措并举拓宽学位资源。7月22日,广东东莞公布普通高中补录招生计划时,宣布探索学位资源跨市配置,今年新增2所外市高中参与补录。邻市惠州的两所学校,有了东莞中考的招生代码。这样的名额无…

    “演员一转身,风吹我脸上”!媒体调查:小剧场为何成了剧迷“心选”

    “暑假的票不好买,很多学生都会趁暑假入沪,热门卡司很早就被抢光。”一位经常在上海小剧场看演出的观众对中新经纬说。据灯塔专业版数据,2025年上半年,优质剧场类演出IP的场次、票房、观演人次均较2024年显著提升。“入沪连打”“集卡”、蹲“SD”……小剧场为何就成了剧迷…

    特朗普痛批洛杉矶火灾援助项目是骗局:1亿资金“失踪”

    当地时间7月25日,美国总统特朗普在其社交平台“真实社交”上发文,严厉抨击旨在帮助洛杉矶火灾受灾民众的“FireAid”援助项目,称其是“彻头彻尾的灾难”,并暗示该项目为“又一起民主党主导的骗局”。特朗普表示,本应用于火灾救助的1亿美元援助资金“失踪”。“FireAid”项…

    首届上海营商环境十佳案例出炉,两惠企政策超市案例亮眼

    7月25日,首届中国(上海)优化营商环境创新实践案例发布会在陆家嘴召开。会上发布了市级部门、区级政府、街镇三个组别共30个“十佳案例”以及30个“优秀案例”。案例全面覆盖了上海营商环境方案8.0版的五大方面——世行对标改革、优化为企整体服务、涉企监管、夯实基层营商、…

    湖南艺术职业学院副院长谭铁军拟提名为市州政府副职人选

    7月25日,湖南省委组织部发布省委管理干部任前公示,现任湖南艺术职业学院党委委员、副院长谭铁军拟提名为市州政府副职人选。公开资料显示,谭铁军,男,1981年3月出生,汉族,湖南宁乡人,本科学历、硕士学位,2001年12月加入中国共产党,2003年9月参加工作。他曾任湖南益阳市…

    回到《南京照相馆》拍摄地,沉浸观影体验让电影更加震撼深刻

    7月25日,上影集团出品的重大历史题材影片《南京照相馆》全国公映。影片以全新视角展现历史,讲述老百姓手无寸铁,却用相机和照片做“武器”,刺破日军掩盖暴行谎言的故事。《南京照相馆》自开启点映以来,即获2025年淘票票和猫眼双平台点映最高分,首映当日豆瓣开出8.5超高评…

    联合国:加沙三分之一人数日没有进食,“孩子们一个个死去”

    7月24日,人们在加沙地带加沙城领取食物。新华社 图新华社7月25日报道,在以色列的持续封锁下,加沙地带正陷入一场日益严峻的人道主义危机。过去几天,由于可以挽救生命的基本药物已经用完,5名幼儿因持续饥饿引发的病症在加沙城一所医院内死去,其中最大的4岁半,最小的仅4个…

    对话AI春晚发起人:AI不能感受到人心深处为什么而悸动

    【编者按】“我们很快就会看到1-10人创办的估值十亿美元公司”,OpenAI的Sam Altman在2025年的采访中表示,“我甚至还跟科技圈的CEO们设了个赌局,预判这会在何时出现。没有AI的话,这恐怕难以想象,而现在它即将实现。”腾讯研究院院长司晓指出,“超级个体”时代的来临,个体…

    上海青浦新城建设提速,携手华为打造长三角AI+创新中心

    上海青浦新城开发建设提速。7月25日,40个项目在青浦新城开发建设大会暨“潮涌浦江”新城发力青浦系列活动上集中签约。上海理工大学、中国电信上海公司、交通银行上海市分行与青浦区政府签订战略合作框架协议。华为与青浦区政府共同启动“长三角AI+联合创新中心”合作。7月25日…

    康子兴评《战争与社会思想》|何日止刀兵:批判的战争社会理论史

    《战争与社会思想:霍布斯以降》,[德]汉斯约阿斯、沃尔夫冈克内布尔著,张志超译,李钧鹏校,华东师范大学出版社,2017年5月出版,360页,68.00元一战争既是一个古老的社会问题,也是一个古老的社会理论问题。在有史可考的西方政治思想传统中,对战争的理论反思可以上溯至修昔…

    安理会召开紧急会议,柬埔寨呼吁和平解决柬泰冲突

    当地时间7月26日,柬埔寨外交部发言人宗松里表示,在联合国安理会紧急会议上,柬埔寨呼吁立即无条件停火,并和平解决柬泰冲突。会上,柬埔寨还展示了泰国使用战斗机、集束弹药和各种先进武器对柬埔寨发动攻势的情况。责任编辑:张珺图片编辑:沈轲澎湃新闻报料:021-962866澎湃…

    弘扬“上海精神” 共建美好家园 上海合作组织媒体智库峰会在郑州举行

    这是7月25日拍摄的上海合作组织媒体智库峰会全体会议现场。新华社记者 李嘉南 摄新华社郑州7月25日电 以“弘扬‘上海精神’ 共建美好家园”为主题的上海合作组织媒体智库峰会25日在郑州举行全体会议。来自上合组织成员国、观察员国、对话伙伴的近200家媒体、智库、政府机构及…

    《聊斋:兰若寺》:蒲松龄观影体的得与失

    有“中国皮克斯”之称的追光动画经过多年筹备,在暑期档推出了《聊斋:兰若寺》,成为继《长安三万里》之后的又一部国产“新文化”系列动画电影。《聊斋:兰若寺》采用“1+5”的叙事结构,以《聊斋志异》的作者蒲松龄在行路途中的一场奇遇为序幕,将蛤蟆精和乌龟精“讲故事斗法…