“人类简史系列”作者赫拉利:真正值得担心的不是技术,而是不顾边界地部署技术

article/2025/9/11 14:22:48

9月11日上午,2025Inclusion·外滩大会开幕式暨主论坛,历史学家、哲学家、“人类简史系列”作者尤瓦尔·赫拉利发表演讲,他认为,进步不应只以技术进步的速度衡量,而在于人类能否建立合作、信任与共情。

赫拉利表示,人工智能不仅是自动化工具,还是“会行动的主体”,有能力自己做决定,有时甚至能自己创造出全新的想法。

“我并不反对科技变革。但作为历史学者,我对变革的节奏和方式感到担忧,”赫拉利称,历史上变革最大的问题往往不是最终目标,而是通向目标的过程。

他认为,人类是适应能力极强的生物,但需要时间来适应,也需要可靠的机制。每当历史上出现强大的新技术时,社会都要花很长时间去发明与之相匹配的制度与习惯。例如工业化不仅是蒸汽机的故事,还需要公司法、环保法规与社会保障网络等更多配套机制。

“人工智能与所有以往技术的不同之处在于,它触及了社会的中枢神经系统,”在赫拉利看来,人们面临的人工智能危险,“不是一个坏人按一个坏按钮”,相反,危险在于周围悄然发生的无形过程。科幻小说里提到过“机器人叛乱”,但真正的危险更安静且更令人恐惧——决定权从可质询的人类移交给看不见的算法。

“单有速度,不是进步,”赫拉利认为,实现真正的进步,首先是合作。“如果切断与他人的一切联系,仅仅依靠自己,这不会让你更强,最终那会让你窒息。把这个古老的教训带入人工智能时代,意味着建立可验证的全球承诺,而不仅仅看‘谁跑得更快’。”

其次,真正值得担心的不是技术本身,而是为了竞争优势,不顾安全边界地部署技术。他表示,任何真正重塑人类社会的系统,都不应“先上线再治理”。“历史已多次证明,速度和安全可以并存,但前提是我们构建自我修正的机制闭环。一个发达的技术社会,必须有办法及时发现并纠正自身的错误和偏见,这样就能保证快速而安全地运转。”

他认为,如果我们在还没有学会识别和纠正系统不可避免的错误之前,就贸然让人工智能“奔跑”,那么速度的代价,就会让最无力的群体承担。

最后是他认为,人类应该带着记忆前进。赫拉利说,当人工智能开始接管决策过程和构建叙事,我们必须守护人类记忆和讲述自身故事的能力。“如果把记忆托付给非人类智能,我们将一无所有。”

赫拉利呼吁,在人工智能时代,我们必须留给人类足够的时间来保存记忆,建立彼此之间的信任与感情。“衡量进步,不在于技术的速度,而在于我们之间合作的力度和共情的深度”。

    责任编辑:葛佳
    校对:张艳

    http://news.xdnf.cn/RCIlMIqxRK

    相关文章

    东洋学人|中村正直:自叙千字文,落笔惊鬼神

    一个人在恰当的时机,做了恰当的事,就足以载入史册。——题记与福泽谕吉齐名的启蒙思想家提起明治时代的思想巨匠,大概首先想到的是福泽谕吉(1835-1901)。然而,当年与福泽齐名的中村正直(1832-1891,号敬宇),却渐渐被人遗忘了。实际上,和福泽谕吉一样,中村也是改变明…

    今年1至8月,我国汽车产销量首次双超2000万辆

    记者今天(11日)从中国汽车工业协会获悉,今年1至8月份,我国汽车产销量首次双超2000万辆。最新数据显示,今年1至8月份,我国汽车产销量分别完成2105.1万辆和2112.8万辆,同比分别增长12.7%和12.6%。其中,新能源汽车产销量分别完成962.5万辆和962万辆,同比分别增长37.3%和3…

    唐山一农民申请补偿安置陷14年诉讼“马拉松”:自规局被9判违法仍在“挤牙膏”

    2025年8月14日,杨树立再一次拿到法院的判决书,法院撤销河北唐山市玉田县自然资源和规划局(以下简称“玉田县自规局”)作出的补偿决定,要求该局重新作出补偿决定。杨树立已记不清这是法院第几次撤销玉田县自规局行政决定的判决了。玉田县自规局。本文图片均为受访者供图“1…

    偷走全红婵声音,在网上卖鸡蛋?你看的明星带货直播,可能是AI偷来的

    撰文 Skin 在铺天盖地的网络短视频中,你是不是也经常遇到“AI配音”的视频?现在,许多短视频都直接用上了AI配音,你一定听过经典的悟空四郎等音效。 如今,“声音克隆”这项技术,已经被集成进了各种短视频和AI平台,成为了每个用户都可以一键使用的功能:只需要录一小段自…

    第二届国际民间社会共同落实全球发展倡议交流大会在呼和浩特举行

    9月10日,第二届国际民间社会共同落实全球发展倡议交流大会在呼和浩特开幕。内蒙古日报记者 马建兵 摄据新华社9月11日报道,9月9日至11日,由中共中央对外联络部指导、中国民间组织国际交流促进会和内蒙古自治区人民政府共同主办的第二届国际民间社会共同落实全球发展倡议交流…

    一水泥协会组建微信群、组织聚会让企业统一涨价,被罚50万

    强化反垄断、深入推进公平竞争政策实施,是完善社会主义市场经济体制的内在要求。在2025年中国公平竞争政策宣传周活动期间,9月10日,最高人民法院发布5件反垄断典型案例。是什么让不同企业“默契”固定价格、划分市场?哪些行为可能触碰反垄断红线?各类主体应如何增强公平竞…

    江苏一重点文旅项目天目湖动物王国已停工,正开展社会资本引进工作

    开工仅一年、计划投资35.5亿元的江苏省重点文旅产业项目——天目湖动物王国文旅综合体项目(下称:动物王国项目)近日传出停工的消息。当地知情人士称,该项目或遭遇资金和环保的双重压力而被迫停工,其中该项目环评手续缺失。据溧阳市融媒体中心微信公号“中国溧阳”报道,动…

    演员于朦胧被传坠楼,知情人士:等官方消息

    9月11日,网上有爆料称演员于朦胧在凌晨坠楼身亡。截至发稿时,尚未有警方通报。网友还在网上喊话希望他出来辟谣。记者采访了曾与于朦胧有过合作的影视公司相关人士,对方称具体情况等官方消息。9月11日上午,@名侦探小宴 发文称,“《三生三世十里桃花》《太子妃升职记》主演…

    中介以每条上百元价格出售独家房源业主信息,涉案超300万被抓

    房地产经纪公司独家房源被“泄露”,竟是被内部员工以每条超百元的价格出售;保险公司业务频遭精准“撬单”,背后是前保险行业“内鬼”非法获取并转卖数据。9月11日,上海市公安局召开新闻发布会,通报了今年以来上海警方打击侵犯信息安全犯罪情况。截至目前,上海公安网安部门…

    王兴兴:目前机器人硬件完全够用,最大的问题还是AI模型

    在9月11日的2025外滩大会圆桌讨论环节,宇树科技创始人兼首席执行官王兴兴表示,在机器人领域,硬件和大脑不是同一层面的事,现阶段,机器人硬件完全足够用,“用一两年都可以”,最大的问题还是AI大模型本身能力不够用,在多模态融合方面表现还不够理想。王兴兴表示,目前纯语…

    身家暴涨千亿美元!全球首富“短暂”易主,甲骨文创始人一度超越马斯克登顶

    马斯克重新夺回世界首富宝座。Larry Ellison 视觉中国 资料图当地时间9月10日,《彭博亿万富豪指数》(Bloomberg Billionaires Index)数据显示,由于云业务需求激增刺激营收前景,甲骨文公司股价盘中暴涨超42%,该公司联合创始人拉里埃里森(Larry Ellison)身家飙升至3930亿…

    “强化学习之父”萨顿:人工智能正在进入以持续学习为核心的“经验时代”

    9月11日上午,2025 Inclusion外滩大会在上海黄浦世博园区开幕。2024年图灵奖得主、“强化学习之父”理查德萨顿(Richard Sutton)在主旨演讲中展望人工智能的未来时提出了四条现实的“预测原则”:第一,对世界应该如何运转并没有共识,但没有哪一种看法能够凌驾于其他;第二,…

    亚信智库论坛|亚信秘书长萨雷拜:“全球治理倡议”与亚信本质契合

    “亚洲在全球发展和全球政策制定中的作用日益增强。这是亚洲在全球安全架构中扮演的新角色,我们需要更好地了解如何在这种情况下进行合作。”亚洲相互协作与信任措施会议(CICA,以下简称“亚信”)秘书长凯拉特萨雷拜在接受澎湃新闻(www.thepaper.cn)采访时说。亚信秘书长萨…

    大理整治网红苍洱大道群聚路面旅拍乱象,已劝阻近三千人次

    连接苍山之麓、直通洱海之滨的苍洱大道是游客到云南大理旅游必打卡地之一。这条因 “路的尽头是山海”的绝美景致而走红的公路,每年都吸引着成千上万游客慕名而来。然而,为了定格一张 “人生照片”,不少游客竟不顾往来车流,贸然驻足甚至穿梭于马路中央拍照,致使道路交通安…

    云南红河展演刺绣艺术:多项入选非遗文化,近五千人从业

    9月10日晚间,一场融合了古老技艺与现代时尚的红河州刺绣艺术时装展演在云南红河州石屏古城举行,旨在展示当地丰富的民族刺绣文化,推动地方特色文化产业发展。据介绍,整场活动分为“绣美红河”“绣意新篇”“彝绣焕彩”“名绣新韵”四个篇章,将观众带入一场跨越时空的美学对…

    图灵奖得主理查德·萨顿探讨人工智能:对它的恐惧被夸大了

    9月11日上午,2025 Inclusion外滩大会在上海黄浦世博园区举行开幕主论坛。2024年图灵奖得主、“强化学习之父”理查德萨顿(Richard Sutton)在以视频形式发表主旨演讲时认为,人类数据红利正逼近极限,人工智能正在进入以持续学习为核心的“经验时代”,潜力将远超以往。萨顿在…

    宇树王兴兴:目前机器人硬件完全够用,最大问题还是AI模型无法很好利用硬件

    9月11日,2025外滩大会,宇树科技创始人、CEO王兴兴表示,公司当下在人才和管理两方面面临挑战。王兴兴表示,面对更多的产品、更多的客户,公司非常缺顶尖人才,同时,管理和组织问题也愈发暴露,“有时候人多了反而效率更低,对所有的人或公司来说,组织管理(的压力)也是非…

    上报集团党委书记、社长李芸:重塑创新增长,一定是主动行为

    9月11日上午,2025Inclusion外滩大会开幕式暨主论坛在上海举行,邀请图灵奖得主、顶尖科学家、产业领军者及青年创业者同台,共同探索智能上限和创新路径。上海报业集团党委书记、社长李芸在组委会代表开篇发言中表示,外滩大会已成为上海面向全球名副其实的金融科技“金名片”…

    图灵奖得主理查德·萨顿:对AI的恐惧被夸大,去中心化协作实现AI与人类繁荣

    2024年图灵奖得主、“强化学习之父”理查德萨顿(Richard Sutton)。9月11日上午,2025 Inclusion外滩大会在上海黄浦世博园区开幕。2024年图灵奖得主、“强化学习之父”理查德萨顿(Richard Sutton)在开幕式上针对AI带来偏见、失业甚至人类灭绝的担忧表示,这种对人工智能的恐…

    官方通报“九寨沟一酒店大堂惊现毒蛇”:排除人为投放可能,游客无被咬伤痕迹

    9月11日,四川九寨沟县文广体旅局发布情况通报:2025年9月5日晚9时45分许,九寨沟希尔顿度假酒店大堂城堡护栏处发现一条长度约为15厘米的蝮蛇,且被游客李女士孩子发现并产生了接触。酒店第一时间派专人陪同李女士及孩子前往当地医院全面检查,确认孩子身体无任何被蛇咬伤的痕…