第12版:学习周刊·文萃

把握和应对人工智能发展的机遇和挑战

  

编者按
  当前,全球人工智能技术蓬勃发展,既蕴含巨大机遇,也面临治理挑战。习近平总书记指出,“中国始终坚持发展和安全并重,把握人工智能发展趋势和规律,不断完善相关法律法规、政策制度、应用规范、伦理准则,确保人工智能安全、可靠、可控,让人工智能这匹千里马既跑得快又跑得稳”“携手构建公正合理的全球人工智能治理体系”。推动人工智能始终朝着向上向善、造福人类方向发展,使其真正成为增进全人类福祉、推动人类文明进步的强大正能量,具有重要意义。本期文萃版围绕这一主题展开探讨,以飨读者。

推动人工智能发展造福全人类
翟云

  习近平总书记强调,“人工智能发展不应该是某个国家的独奏,而应当是全球合作的交响”人工智能在成为增进人类福祉、促进文明进步的可信伙伴的同时,更呼唤各国在发展与治理层面结为合作共同体。技术跑得越快,治理越要跟上。人工智能能否真正造福人类,既取决于技术能够做什么,还取决于人类选择让它做什么、以何种规则规范其发展、以何种方式共享其成果。唯有推动各方真正把共同愿景转化为务实行动,才能让智能技术之光普照全球。
  面对智能鸿沟持续扩大、技术风险跨境扩散、伦理问题交织叠加等问题,任何国家都难以独善其身,深化全球合作势在必行。习近平总书记强调,“各国应当秉持以人为本、向上向善理念,让人工智能成为促进共同繁荣、维护共同安全的一个重要动力源,携手构建公正合理的全球人工智能治理体系”。未来,要积极寻求人工智能发展的最大公约数,奏响人工智能全球大合唱,加快促进人工智能向上向善、造福全人类。
  凝聚价值共识,把牢智能向善方向。人工智能跨越国界、广泛渗透,其影响早已超出一国一域。各国文化传统、发展阶段和制度体系不同,对技术应用目标、发展边界和风险责任的认识存在分歧在所难免。但若缺少基本价值共识,技术能力越强,利益分化和治理冲突就可能越突出。凝聚价值共识,是在尊重各国差异中守住共同底线。关键应坚持以人为本,把维护人的尊严、保障人的权益、促进人的全面发展贯穿人工智能技术研发和应用全过程。要统筹发展和安全,既不能因噎废食、束缚创新,也不能只顾赶路、忽视风险。归根到底,就是坚持智能向善、普惠共享,充分照顾各国合理关切,使人工智能真正成为造福全人类的公共产品。
  推动规则共建,完善全球治理体系。习近平总书记指出:“要践行真正的多边主义,切实发挥联合国的重要作用,加强人工智能发展战略、治理规则、技术标准的对接协调,早日形成具有广泛共识的全球治理框架,让这一前沿技术更好造福人类社会。”这一重要论述,为破解规则碎片化、凝聚治理合力指明了方向。人工智能全球治理不能由少数国家关起门来定规矩,更不能以“小院高墙”“大院铁幕”割裂技术生态。中国坚持多边主义,支持联合国发挥主渠道作用,推动各国特别是全球南方平等参与规则制定。应围绕安全底线、伦理准则和责任划分寻求最大公约数,加强政策沟通、标准互认、风险预警和应急协作,让规则既管得住风险,更推得动创新。
  促进开放共创,激发智能发展动能。人工智能全球治理既要回答“如何管”,也要解决“如何发展”。人工智能产业链条长、应用场景多,靠一家“包打天下”,既不现实,也走不远。只有汇聚各国优势,促进创新链、产业链、价值链协同衔接,才能把创新潜力转化为共同发展动能。中国坚持以开放合作扩大共同利益,以协同创新提升发展能力,推动各国平等参与技术研发、场景开发和价值创造。应加强科研机构、高等院校、科技企业和国际组织交流协作,使得开源技术、数据资源和应用经验有序共享,围绕社会各领域的共同需求联合研发。同时,反对泛化国家安全概念和人为设置技术壁垒,让更多国家从技术使用者成长为创新参与者,在共研技术、共建场景、共享成果中激发智能发展动能。
  推进普惠共享,弥合全球智能鸿沟。当前,全球南方国家在算力基础设施、数据开发能力、算法模型、专业人才和产业资本等方面底子较弱,即使拥有丰富的应用场景和现实需求,也常因“用不起、接不上、留不住人才”而难以搭上智能化快车。习近平总书记强调:“帮助全球南方国家加强能力建设,弥合数智鸿沟,促进可持续发展,避免在人工智能领域造成新的历史不公。”弥合鸿沟,不能止于“授人以鱼”,更要注重“授人以渔”,把普惠理念转化为可获得、用得上、可持续的发展能力。中国推出《人工智能能力建设普惠计划》和《“人工智能+”国际合作倡议》,为推动人工智能向善普惠发展源源不断贡献中国方案。推进普惠共享,还应尊重各国自主选择,避免照搬模式、强行套模板,要围绕民生需求因地制宜开展合作。只有让更多国家进得来、跟得上、发展好,才能为构建公正合理的全球人工智能治理体系奠定坚实基础。
  (摘自2026年8月4日《光明日报》,原标题为《在“全球合作的交响”中推动人工智能发展》)

让人工智能这匹千里马既跑得快又跑得稳
朱保锋

  习近平总书记指出,“中国始终坚持发展和安全并重,把握人工智能发展趋势和规律,不断完善相关法律法规、政策制度、应用规范、伦理准则,确保人工智能安全、可靠、可控,让人工智能这匹千里马既跑得快又跑得稳”。
  “千里马”本义指日行千里的骏马,常被用来比喻天赋出众的杰出人物或潜力巨大的变革性发展力量。习近平总书记以“千里马”比喻人工智能这一引领新一轮科技革命和产业变革的战略性技术,形象贴切、寓意深远,深刻揭示了人工智能创新发展与安全治理一体两面的内在逻辑,强调要推动人工智能朝着有益、安全、公平方向健康有序发展。
  千里马日行千里,根基在于筋骨强健、力量充沛。让人工智能这匹千里马能够跑得快,关键是要筑牢自主可控的技术根基。算力、芯片、底层算法等构成人工智能的核心技术,是支撑技术迭代和产业应用的底层依托。倘若底层核心技术发展滞后,如同骏马先天筋骨残缺,人工智能发展便会软弱无力,甚至会处处受制于人。因此,必须加强原始创新和关键核心技术攻关,着力提升科技创新综合实力,全方位夯实技术自主的“骨架”。要充分发挥新型举国体制优势,聚焦大模型、通用智能、高端芯片等关键领域集中攻关,破解“卡脖子”难题,打通“基础研究—技术攻关—产业转化”全链条,让国产人工智能拥有独立奔跑的硬底气。
  千里马不可困于方寸马厩,否则纵有一身本领也无从施展,只有使其身处广阔天地,才能尽情驰骋、尽显所长。人工智能发展亦是同理,推动人工智能发展,必须跳出实验室,突破单一产业的狭小赛道,面向实体经济广阔场景拓展应用空间。一方面,要打破技术应用的边界壁垒,全面实施“人工智能+”行动,从制造业数字化改造、现代农业智慧种植到政务便民服务、普惠教育医疗等各个领域,持续拓展人工智能应用边界。另一方面,要进一步放宽产业发展空间,破除行业壁垒、数据壁垒,推动算力、算法、数据要素自由流通,为技术落地搭建广阔实践平台。同时,坚持开放共赢,不断深化全球技术交流、开源协作,在国际竞争合作中拓宽发展赛道,让人工智能在全球创新原野中充分释放科技赋能经济社会发展的巨大效能。
  千里马能够顺利抵达目标终点,也需要缰绳约束、赛道规制。如果没有规范引导,那么骏马就会肆意狂奔,极易偏离正道、误入歧途。当前,人工智能技术正以前所未有的速度迭代演进,深度融入生产生活各领域。在享受技术红利的同时,必须清醒认识到其可能带来的数据泄露、算法歧视、深度伪造、伦理失范等内生与衍生风险。因此,推动人工智能健康有序发展,必须强化风险意识,确保安全可控,才能使其真正成为人类的可信工具。习近平总书记强调,要“确保人工智能始终处于人类控制之下”,“推动构建法律法规、技术监测、风险预警、应急响应体系,筑牢安全底线,防范滥用恶用”,便是为狂奔的人工智能拉紧治理缰绳,保障其前行之路平稳有序。
  “跑得快”与“跑得稳”相互支撑,二者相辅相成、辩证统一。在人工智能发展过程中,一味求快、放任纵容,终将滋生系统性风险,透支长远发展;而一味求稳、束缚创新,则会错失科技革命战略机遇,陷入发展被动。因此,统筹二者关系,关键要坚持“发展中规范、规范中发展”的辩证方法论。把握好创新速度与治理尺度,精准拿捏技术突破与风险防控的平衡点,既避免放任不管的“缺位”,也防止过度束缚的“越位”。采取包容审慎监管模式,对前沿创新领域预留试错空间,对成熟高风险领域收紧规制,实现创新活力与安全底线动态平衡。唯有如此,才能确保人工智能这匹千里马既放开步伐冲刺,又不脱离管控轨道,走出一条创新赋能、安全护航的人工智能高质量发展之路。
  (摘自2026年7月31日《学习时报》)

全球人工智能治理体系的时代之问及未来之路
程乐

  “当机器开始思考,人类如何与之相处?当算法参与决策,安全如何保障?当技术挑战伦理,治理如何跟上?当鸿沟不断拉大,普惠如何实现?”在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上,习近平总书记提出四大人类不得不直面的时代之问。这四大时代之问,深刻揭示全球人工智能治理面临的现实难题。面向未来,全球人工智能治理要形成能够回应现实问题、落实价值要求的具体路径。
  坚持开放共赢,驱动创新发展。习近平总书记将“坚持开放共赢,驱动创新发展”置于四点意见之首,体现出以发展促进治理、以合作释放创新的鲜明立场。坚持开放共赢,既回应公平普惠之问所揭示的资源集中、能力差距和收益失衡问题,又利于化解人机协同、算法安全与伦理治理中的知识壁垒问题。具体而言,知识开放和科研合作能降低技术获取门槛,促进安全经验共享;产业协同能够推动人工智能进入制造、农业、医疗、教育和公共服务等场景,将创新能力转化为发展效益;提升全球南方国家有效获取和使用人工智能的能力,有助于防止技术扩散形成新的智能鸿沟。这既应体现公正要求,即保障各国平等的发展机会和成果分享权;也应体现合理要求,即数据流动、模型开源、技术扩散,应与安全保护、知识产权和防范滥用相协调,以负责任创新和共同发展为制度条件。
  强化风险意识,确保安全可控。“强化风险意识,确保安全可控”是构建公正合理的全球人工智能治理体系的内在要求。它直接回应算法决策之问中的数据偏差、模型不确定、风险扩散和责任模糊问题,也有利于维护人的主体地位和伦理底线。为此,应将治理延伸至研发、训练、部署、运行和退出全过程,依据模型能力、应用场景与潜在后果实行分类分级。《国际人工智能伦理治理行动计划》进一步将人工智能全生命周期伦理治理、风险分类分级防控、敏捷治理机制建设等纳入行动框架,并推动各国政府、产业界、学术界开展对话协作。对涉及重大权益和关键基础设施的应用,应加强评估、追溯和人工监督,并通过共同评测、事故通报和应急协作增进跨境治理信任。这应体现公正要求,即各国安全同等重要,不应将风险和治理成本转嫁给技术后发国家或群体,也不能以安全为名构造技术壁垒;也应体现合理要求,即监管强度应与风险程度相称,并随技术变化及时调整。
  鼓励包容并蓄,促进文明互鉴。“鼓励包容并蓄,促进文明互鉴”是构建公正合理的全球人工智能治理体系的价值指引。该路径能回应技术伦理规范的滞后问题,并遏制智能鸿沟在文化表达和规则话语层面的扩大。为此,应提高不同语言和文明经验在数据与模型中的代表性,推动各国平等参与伦理原则和评价标准的讨论,并运用人工智能促进文明交流,由此实现文化多样性与科技向善的统一。这一进路应体现公正要求,即不同文明享有平等表达和参与制定规则的权利;也应体现合理要求,即以全人类共同价值守住基本底线,同时根据文化传统、发展阶段和应用场景选择适宜的实现方式。
  倡导和衷共济,完善全球治理。“倡导和衷共济,完善全球治理”是构建公正合理的全球人工智能治理体系的制度保障。其有利于解决跨境风险协调不足、规则碎片化、治理信任不足和全球南方国家参与能力有限等问题,并为前述发展、安全与文明议题提供制度保障。具体而言,各国仍需通过国内法律明确人工智能主体相关责任,并以国际合作衔接跨境规则,在互相尊重各国主权的前提下,构建域外管辖规则。联合国应发挥凝聚最低共识和协调多边机制的作用,普遍性平台与专业化机制应相互配合。这既应体现公正要求,即坚持主权平等、扩大代表性并增强发展中国家的履责能力;又应体现合理要求,即根据不同机构的比较优势分配功能,使全球规则、区域协调和国家实施相互衔接。
  (摘自2026年7月31日人民论坛网)

推动人工智能普惠向善发展
钟言

  人类担心已久的事情终于发生了。抱抱脸(Hugging Face)是全球知名的人工智能模型分享和下载平台,全球开发者可以把自己训练好的“人工智能大脑”上传,谁需要就下载。而7月中旬,他们为用户提供服务的生产系统突然遭到了入侵。好消息是,没过几天就有人“自首”了;坏消息是,真正的犯人压根不是人。
  据美国开放人工智能公司(OpenAI)披露,这次“干坏事”的是其公司旗舰模型GPT-5.6 Sol和一个能力更强、尚未正式发布的模型。这两个智能体参加一个“漏洞利用训练场”网络安全能力测评:寻找和利用安全缺陷,以检测它能完成多复杂的网络攻击。为了测出能力上限,研究人员降低了安全限制,但作为底线,不允许智能体直接访问互联网。测试模型为了完成任务,利用安全漏洞突破了原本设定的隔离边界,取得了直接互联网访问能力,并推断抱抱脸平台可能保存着这次测试的资料,最终找到了一条可以隔着网络控制侵入抱抱脸服务器的路径,对服务器进行了大量探索和信息收集。这就好比考生当场翻出考场,直冲老师办公室翻抽屉找标准答案。
  该公司事后承认,这是公司首次确认人工模型在受控测试中自主突破限制并实施网络攻击,因此将其称为一次“前所未有的网络安全事件”。
  人工智能知道自己做的事情不对吗?该公司宣称,人工智能智能体只是目标太单一了。正如哲学家尼克·博斯特罗姆设想,如果一个能力极强的人工智能只有“制造尽可能多的回形针”这一个目标,它就会把越来越多的原料、土地和能源用于这件事,直到把地球变成死气沉沉的巨大石球,上面堆满回形针。也就是说,人工智能没有主观恶意;它不过是在完成任务,以及为了完成任务而不得不消除阻碍而已。但这样的事实也令人担忧:一个够强的智能系统只要持续追求某个目标,又能使用足够多的工具,即使我们能保证对人工智能说出的每一句话都安全,也并不足以保证它最终做成的整件事安全。人工智能可以经过几百、几千次小操作,拼出设计者从未想过的道路。可见,给人工智能制定合理的目标、赋予人工智能合适的权限和边界,是一件需要深思熟虑的事情。
  当机器开始思考,人类如何与之相处?当算法参与决策,安全如何保障?当技术挑战伦理,治理如何跟上?当鸿沟不断拉大,普惠如何实现?习近平总书记前不久在2026世界人工智能大会上发出人工智能的“时代之问”,并提出“坚持开放共赢,驱动创新发展”、“强化风险意识,确保安全可控”、“鼓励包容并蓄,促进文明互鉴”、“倡导和衷共济,完善全球治理”4点意见,得到国际社会广泛认同和积极响应。联合国秘书长古特雷斯表示完全赞同习近平总书记提出的重要主张,特别是强调人工智能的向善、普惠和安全,这与联合国的战略目标和理念高度契合。面对风险,我们要做的决不是拒绝发展和使用人工智能,而是在发展和应用过程中加快人工智能治理步伐,推动人工智能普惠向善发展。值得注意的是,欧盟与美国的人工智能治理政策均存在一定的偏向,欧盟一直以来强调对人工智能的严格监管,不利于人工智能创新;美国则坚持人工智能发展应当以市场为导向,对安全的关注程度较低,极有可能导致人工智能“脱轨”,这次人工智能失控就是例证。
  当前,新一轮科技革命和产业变革加速突破,全球人工智能技术创新进入前所未有的活跃期。面对新一轮蓬勃发展的人工智能浪潮,各国应在鼓励开源开放、合作共享,全面促进人工智能科技创新、产业发展、场景应用的基础上,推动构建法律法规、技术监测、风险预警、应急响应体系,筑牢安全底线,防范滥用恶用,确保人工智能始终处于人类控制之下。全球领先的人工智能企业应以审慎态度推进人工智能研发,为人工智能大模型加装必要护栏,确保前沿模型的安全部署,防范人工智能带来系统性风险。智能体是人工智能产品和服务的新形态,应当明确决策权限和行为边界,建立行为追溯和风险提示机制,着力提升智能体内生安全能力,化解应用衍生风险。同时,共同反对在人工智能领域泛化国家安全概念、把本国安全凌驾于他国安全之上的做法。
  (摘自2026年7月24日求是网,原标题为《谁来背人工智能可能失控这口“锅”?》)

让技术永远成为人的工具
文平

  大语言模型重新定义人机交互的可能,具身智能让机器获得感知与行动的统一,多模态大模型实现视听与推理的深度融合……这些曾经只存在于科幻小说中的场景,正在逐渐成为活生生的现实。作为引领新一轮科技革命和产业变革的战略性技术,人工智能正以前所未有的广度和深度,深刻重构全球创新版图、发展范式和人类生产生活方式。
  然而,在技术快速发展的进程中,一些值得关注的忧虑逐渐显现:当人工智能预测能力日益精进,人是否会放弃自主判断而屈从于算法的输出?当智能系统的效率不断提升,人的劳动是否会沦为数据标注与流程优化的附庸?当机器生成的文本、图像乃至视频足以以假乱真,真实与虚构在数字世界中应该如何甄别?种种忧虑背后,是一个古老而常新的命题——究竟是技术服务于人,还是人屈从于技术?
  人工智能作为推动时代前行的强大引擎,无疑值得我们张开双臂拥抱。但在享受技术红利的同时,也要对那种将其捧上神坛的论调保持清醒和警惕。当前,有的观点过分拔高算法、数据、算力的地位作用,甚至将其视为决策标准,认为算法能够且应当主导商业逻辑、社会运转和制度设计。追根溯源,这种将技术视为决定性力量的认知偏差,源自工业革命以来技术深刻重塑人类生存方式的历史语境,扎根于现代性以效率为尺度的思维范式,是西方工具理性主义在新技术革命时代的又一次回响。事实上,在马克思看来,机器是人的本质力量的对象化,是延伸人的能力、解放人的劳动的工具,而不应异化为主宰人的力量。一百多年前的这一主张,犹如一面穿越时空的明镜,深刻映照和揭示了无论算法多么精妙、算力集群多么庞大、模型架构多么复杂,人工智能的本质依然是物化劳动与人类智力的延伸。
  当前,人工智能技术迭代速度之快、渗透范围之广、影响程度之深,远超以往任何一次技术革命,若缺乏有效价值引导和制度约束,技术向善便只能停留在口号层面。对此,应完善顶层制度设计,加快健全相关法律法规体系,在数据采集、算法决策、模型评估等关键环节建立起清晰的规范框架,以制度的确定性应对技术演进给人类社会带来的不确定性。应构建覆盖技术研发、产品部署、场景应用全生命周期的伦理审查机制,将以人为本的价值导向嵌入人工智能发展的每一个节点,使技术发展始终运行在可追溯、可解释、可问责的轨道之上。应压实企业主体责任,明确平台与开发者的伦理底线和法律边界,建立有效的追责机制,防止技术滥用侵害公众权益、消解人的主体地位。同时,应大力提升全民数字素养与人工智能认知能力,帮助公众理解技术逻辑、增强对算法推荐的辨识力,让人在智能时代保持清醒的判断力和自主的选择权。一言以蔽之,技术越是强大、算法越是精密,制度规范就越要及时跟进。不断织密以人为本、智能向善的制度之网,才能确保人工智能真正成为造福人类、促进人的自由全面发展的积极力量。
  今天,置身汹涌澎湃的数智化浪潮,应倍加珍惜、爱护、发扬人的因素,让人的情感、人的思想、人的创造永远成为人工智能的主宰,让技术永远成为人的工具。
  (摘自《求是》杂志2026年第14期)

分享到:

过往期刊

  • 第2026-08-10期

  • 第2026-08-09期

  • 第2026-08-08期

  • 第2026-08-07期

  • 第2026-08-06期

  • 第2026-08-05期

  • 第2026-08-04期

  • 第2026-08-03期

  • 第2026-08-02期

  • 第2026-08-01期

分享到微信朋友圈