人民日报刊文:守护“技术进步须服务于人性温暖”的文明底线

article/2025/5/10 7:11:48

想象未来某天,你的保姆机器人接到下楼买咖啡的指令,自主完成开门、乘坐电梯、寻找便利店、取咖啡、付钱等一连串动作,最后将咖啡递到你手里。

这不是科幻电影,而是具有自主进化能力的AI智能体带来的可能——不再局限于在固定场景里完成特定动作,而是能像人类一样在陌生环境里“自主学习”,并根据场景变化做出相应的动作。

作为人工智能最主要的载体,智能体由硬件、软件等多种要素组成,能够感知周围环境,并根据自身所处环境做出判断和决策。在我们的日常生活中,一辆辅助驾驶的汽车是智能体,可以根据路况自主地踩油门或者刹车;家里的扫地机器人也是智能体,能识别地板上是纸屑果皮还是灰尘,并选择合适的清洁方式。

实际上,智能体并非向来智能,它们的进化史就像一个人的成长史。早期,智能体只会“死记硬背”。例如,1997年击败国际象棋冠军的超级电脑“深蓝”,其实是存储了几十万局棋谱的“复读机”,遇到规则外的招式就会卡壳。2014年,谷歌研发的AlphaGo开启了“思维训练”的模式,智能体开始通过自我学习提升自身能力,并逐渐进阶为某个专项领域的高手。2022年,以ChatGPT为代表的大语言模型横空出世,标志着智能体发展出较高的智能水平。例如,借助AI大模型破译甲骨文时,它会自主调取青铜器纹样数据库来“脑补”生僻字的字义,甚至根据上下文的意思“创造”新字符。

与智能体进化相对应的,是智能体训练方法的变化。

AI大模型依赖于人工收集的数据进行训练。“投喂”给它们什么训练数据,就学习什么知识。例如,给它们提供100万张猫和狗的图像,并且标注清楚哪些是猫、哪些是狗,经过长时间的训练,它们就能很好地分辨猫和狗,但对于没见过的动物依然无法识别。

而下一代智能体将具备自主学习的能力——通过观察这个世界、和周围的环境互动,来学习各种技能。不需要收集和标注好100万张图像,只用几张图像教会它们最基本的知识,它们就可以自己学习更丰富的知识。例如,如果想教智能体骑自行车,只需要示范一次,它就会自己尝试不同的骑行动作,并不断试错,最终学会骑行的技巧。这意味着下一代智能体将在自主性和适应性方面更上一个台阶,能够主动获取信息,进行信息加工,然后分解任务、完成任务。

基于这种方式,若干年后的智能体或将彻底融入我们的生活:厨房里,智能灶台不仅能烹饪美味佳肴,还能记住你的口味偏好;医院里,AI医生为病人诊断出病症,带着“定制方案”找主刀医生讨论……

不过眼下,智能体的发展还远未达到人们所期望的“耳聪目明、心灵手巧”,它们只能在固定场景中完成特定任务,并不具备跨场景完成任务的能力:一个智能体可以为汽车拧螺丝,但换成轮船可能就做不到了;可以在平地上翩翩起舞,但换成山路也许就“四肢不协调”了。因此,“跨任务、跨场景、跨本体”是下一代智能体的发展目标。

随着人工智能从数字世界走向物理世界,智能体的可信性变得愈发重要。在智能体技术不断发展的过程中,我们始终需要守护“技术进步须服务于人性温暖”的文明底线,从源头上界定其行为边界与伦理规范。

(作者为复旦大学智能机器人与先进制造创新学院副院长,本报记者黄晓慧采访整理)

    责任编辑:张珺
    图片编辑:乐浴峰

    http://news.xdnf.cn/CKLFZoNfZh

    相关文章

    韩国前国务总理韩德洙加入国民力量党

    韩德洙(资料图)韩国无党派总统候选人、前国务总理韩德洙的竞选团队10日凌晨发布公告称,韩德洙10日凌晨根据国民力量党紧急对策委员会和选举对策委员会的决议,完成了国民力量党的入党程序,成为该党党员。韩德洙在加入国民力量党后表示,为了在大选中取得胜利,将以谦虚的心…

    第四轮伊美核谈判将于11日在阿曼举行

    总台记者获悉,伊朗谈判小组成员当地时间9日在接受当地媒体采访时表示,各方已经敲定第四轮伊朗与美国核问题间接谈判的时间,谈判将于11日在阿曼举行。美国与伊朗4月12日在阿曼首都马斯喀特举行间接会谈。这是自2018年5月在美国总统特朗普首个总统任期内美国单方面退出伊核协议…

    墨西哥宣布就“墨西哥湾”更名一事起诉谷歌

    当地时间5月9日,墨西哥总统辛鲍姆宣布,该国已正式起诉谷歌公司,因其在美国用户的谷歌地图服务中将“墨西哥湾”更名为“美国湾”。辛鲍姆表示,诉讼文件已经提交,但未透露具体提交的法院机构及时间节点。墨西哥总统辛鲍姆(资料图)今年1月20日,美国总统特朗普签署行政令,…

    韩德洙成为韩国执政党总统大选候选人

    韩德洙(资料图)由于韩国执政党国民力量党总统候选人金文洙和无党派总统候选人、前国务总理韩德洙方面5月9日晚就联合推举总统大选单一候选人的磋商再次无果而终。国民力量党当天深夜先后举行议员总会、紧急对策委员会会议、选举对策委员会会议,决定取消金文洙的候选人资格,…

    工行回应两售出金条发现疑似杂质:情况不属实,疑似杂质应为金条售出后的外部附着物

    工商银行对网传一客户在该行购买金条发现疑似杂质相关情况作出正式回应。5月9日晚间,澎湃新闻记者从中国工商银行上海市嘉定支行获悉,近期,一位客户在该支行辖属南翔支行购买了两款金条。5月7日,网传在上述金条剪开加工过程中发现疑似杂质,经核实,该情况不属实。工行上海…

    庆祝上海总工会成立100周年暨市模范集体劳动模范和先进工作者表彰大会举行,陈吉宁寄予这些期待

    庆祝上海总工会成立100周年暨上海市模范集体、劳动模范和先进工作者表彰大会今天(5月9日)下午在世博中心举行。上海市委书记陈吉宁出席会议并讲话指出,要深入学习贯彻习近平总书记重要讲话精神,永葆工人阶级政治本色,脚踏实地当好建设者、奋斗者,奋发有为建新功、创新业,…

    工行回应两售出金条疑似有杂质:情况不属实,疑似杂质应为金条售出后的外部附着物

    工商银行对网传一客户在该行购买金条发现疑似杂质相关情况作出正式回应。5月9日晚间,澎湃新闻记者从中国工商银行上海市嘉定支行获悉,近期,一位客户在该支行辖属南翔支行购买了两款金条。5月7日,网传在上述金条剪开加工过程中发现疑似杂质,经核实,该情况不属实。工行上海…

    北京2025年住房发展计划:供应商品住房用地240-300公顷,建设筹集保租房5万套

    5月9日,北京市住房和城乡建设委员会发布关于印发《2025年北京市住房发展年度计划》的通知。计划提出,北京2025年供应商品住房用地240-300公顷,建设筹集保障性租赁住房5万套、竣工各类保障房8万套。优化住房用地供应。顺应房地产发展趋势,合理控制新增房地产用地供应,盘活存…

    总粉丝破亿!当网络大V遇见硬核科技,互联网时代如何书写上海故事?

    “秦朔朋友圈”“真叫卢俊”“饭桶戴老板”......这些刷屏朋友圈的财经领域“顶流”,如何将抽象的经济逻辑转化为全民热议的现象级传播?5月8日下午,由上海市委网信办主办、闵行区委网信办、澎湃新闻承办的“经彩申城——网络名人走进闵行”专场活动在漕河泾虹桥科技绿洲举办…

    马云再次现身阿里打卡创业公寓“湖畔小屋”,鼓励员工坚持创业精神

    5月9日晚,阿里创始人马云现身阿里总部“湖畔小屋”,阿里巴巴集团CEO吴泳铭、阿里合伙人邵晓锋也在现场,陪同参观。5月10日是第21个“阿里日”,湖畔花园小区是阿里创业的起点,本周阿里在访客中心1:1复刻了创业地,起名为““湖畔小屋”,面向员工及访客开放,以展示阿里的创…

    拿出压箱底作品,北京交响乐团让上海观众享受音乐盛宴

    “时代交响——全国优秀乐团邀请展演”正在上海进行,全国10支院团在上海吹响集结号,全景式展现中国交响乐与民族管弦乐的时代风貌。5月7日、8日在上音歌剧院,北京交响乐团诚意满满,分别带来《交响编码》和《永恒的怀念》两场风格迥异的音乐会。《交响编码》现场图,青年指挥…

    东方红资管官宣:41岁原国信资管董事长成飞出任新总经理

    千亿券商资管新任总经理落定。5月9日,上海东方证券资产管理有限公司(下称“东方红资管”)公告称,原国信证券副总裁、国信资管董事长成飞自5月9日起正式担任东方红资管总经理,董事长杨斌不再代行总经理职责。成飞此前4月3日晚间,东方红资管发布公告称,张锋因个人原因离任…

    招商蛇口:今年前4个月销售额约498.34亿元

    5月9日,招商蛇口(001979.SZ)披露4月份销售情况。数据显示,4月份公司实现签约销售面积60.12万平方米,实现签约销售金额147.64亿元。今年前4个月,公司累计实现签约销售面积205.94万平方米,累计实现签约销售金额498.34亿元。拿地方面,4月份招商蛇口累计斥资约47.6亿元获得…

    上海发布首份直播电商行业自律公约,禁止虚假宣传、商业诋毁

    5月9日,上海直播电商行业自律公约在“2025品牌高峰论坛暨品质直播时尚消费盛会”上发布,来自行业协会、直播电商平台、MCN机构、直播基地、品牌企业等领域的30多家单位联合发布了首份上海直播电商行业自律公约。上海市网购商会组织发起“上海直播电商行业自律公约” 主办方…

    上海第四批土拍成交额97亿元:杨浦宅地成交楼板单价半年涨近7000元

    5月9日,上海2025年第四批次商品住宅用地出让交易活动顺利完成,共出让4宗土地,土地总面积约10.10万平方米,规划建筑总面积约23.69万平方米,成交总价约97.09亿元。本批次共有8位竞买人(共涉及9家房企,以单独及联合体形式)参与竞买,其中杨浦定海地块5位竞买人经过72轮竞价…

    上报集团社长李芸:发挥媒体优势,让中非民心在数字时代更深层互联互通

    5月8日至9日,中非民间对话在赞比亚首都卢萨卡举行。中国民间组织国际交流促进会副会长李军、中国驻赞比亚共和国特命全权大使韩镜及来自中非社会各界代表150余人参会。赞比亚副总统纳卢曼戈、津巴布韦驻赞比亚大使查拉姆巴、非盟经社文理事会主席西索科、非盟经社文理事会秘书…

    中非民间对话在赞比亚举行

    5月8日至9日,中非民间对话在赞比亚首都卢萨卡举行。中国民间组织国际交流促进会副会长李军、中国驻赞比亚共和国特命全权大使韩镜及来自中非社会各界代表150余人参会。对话会现场赞比亚副总统纳卢曼戈、津巴布韦驻赞比亚大使查拉姆巴、非盟经社文理事会主席西索科、非盟经社文…

    图集|俄罗斯举行纪念苏联伟大卫国战争胜利80周年阅兵式

    莫斯科时间1945年5月9日凌晨,纳粹德国在柏林郊区卡尔斯霍斯特正式签署无条件投降书。这一天,被苏联定为卫国战争“胜利日”。苏联解体后的1995年,俄罗斯国家杜马通过有关永久纪念卫国战争胜利日的法令,规定每年5月9日为全民性节日。每年这一天,俄罗斯都要举行阅兵式。今年…

    匈牙利外长称匈方已驱逐两名乌克兰外交官

    西雅尔多(资料图)匈牙利外长西雅尔多5月9日在社交媒体表示,匈牙利已驱逐两名乌克兰外交官,理由是他们从事间谍工作。此外,匈牙利不能容忍乌克兰针对匈牙利的诽谤活动。当天早些时候,乌克兰安全局表示,该国情报机构抓获两名在乌克兰从事间谍活动的匈牙利人。责任编辑:王…

    玉渊谭天丨中方为何此时同意与美方接触?出于这三个考虑

    5月7日上午,外交部发布消息称,5月9日至12日,中方将访问瑞士,其间将与美方举行会谈。消息一发布,引起大量关注,很多人都在疑惑,为何中方此时选择和美方进行谈判?先来看看随后商务部发言人对这一问题的回应:“近期,美方高层不断就调整关税措施放风,并通过多种渠道主动…