习近平总书记在4月25日中共中央政治局第二十次集体学习时指出：“人工智能作为引领新一轮科技革命和产业变革的战略性技术，深刻改变人类生产生活方式。”人工智能（AI）技术极大解放了人的脑力，从根本上改变着知识生产范式，正以前所未有的速度和规模重塑人类文明图景，深刻影响着世界经济、政治、军事格局和人类社会发展，日益得到各国政府、产业界和学术界的高度关注。相比之下，人工智能治理体系的适应速度明显滞后于技术的突破性进展，人工智能国际治理问题日益突出。为此，我们需要准确把握全球人工智能发展态势，科学研判人工智能发展的风险挑战，加强国际治理与合作，推动人工智能向善向好、造福人类。

2025年1月22日，瑞士达沃斯，联合国秘书长古特雷斯在世界经济论坛2025年年会上表示，气候变化和人工智能无序扩张威胁人类生存发展。（epa/IC photo）

一、准确把握全球人工智能发展态势从1956年诞生至今，人工智能已走过起起伏伏近70年的发展历程。近年来，以ChatGPT、Sora、DeepSeek等为代表的生成式人工智能技术持续取得重要突破，在全球掀起了人工智能的新一轮热潮。整体上看，人工智能发展呈现以下基本态势：

（一）专用人工智能日趋成熟。专用人工智能是指面向特定领域的人工智能，其任务单一、需求明确、应用边界清晰，因此形成了人工智能领域的单点突破，在局部智能水平的单项测试中可以超越人类智能。例如，人脸、虹膜、步态等生物特征可实现高精度高效率识别，并成功应用于执法、民政、救灾等多个领域；人工智能辅助诊疗系统已覆盖3000多种常见病，在27000多家基层医疗机构得到应用；特斯拉全自动驾驶实现了第一个端到端人工智能自动驾驶；等等。

（二）大模型技术取得重要突破。大模型是指具有超大规模参数和复杂计算结构的机器学习模型。作为当前人工智能领域最受关注的方向，大模型日益成为战略性基础设施，借助“预训练大模型+下游任务微调”的开发范式，可以有效缩减训练成本和开发周期，实现规模化生产。自2022年底ChatGPT发布以来，大模型进入爆发期，具备了多模态理解与多类型内容生成能力。2025年初，DeepSeek-R1横空出世，以开源创新、算力成本低等优势，使大模型真正“飞入寻常百姓家”。

（三）生成式人工智能焕发生机。生成式人工智能是指基于算法、模型、规则自动生成文本、图片、声音、视频、代码等内容的人工智能技术。相比于只能根据输入的数据进行处理的传统人工智能系统，生成式人工智能系统能够自己创造出新的内容。在大模型技术驱动下，生成式人工智能快速发展，广泛应用于专业问答、编程、诗歌创作、作画等方面，且生成能力十分强大，引起行业内的极大震动。例如，ChatGPT-4 Turbo入选《自然》杂志2023年度十大人物，这是计算机程序有史以来第一次入选。

（四）具身智能与人形机器人备受关注。具身智能是指物理实体通过与外部环境持续交互而获得的不断增长的智能，它可以突破传统人工智能依赖“算力+数据”堆砌、场景适应性不足的局限，以更接近生物智能的进化逻辑，为探索人类智能形成机制提供新视角，为推动科技成果向现实生产力转化提供强引擎。人形机器人作为具身智能的重要载体，为研究智能的涌现提供了理想平台。如今，具身智能研究已步入快车道，将通过“数据—算法—载体”的闭环迭代，进一步驱动人工智能从虚拟认知向实体智能的范式跃迁。

（五）人工智能驱动的科学研究快速发展。过去几百年，科学研究大体经过了实验观察、理论分析、计算模拟和数据密集型范式的变革。当前，人工智能驱动的科学研究正在引领新一轮变革，将彻底改变科学发现的方式。例如，AlphaFold2可以精准预测蛋白质的3D结构，AlphaFold3则以前所未有的精度预测所有生命分子的结构和相互作用，为生物医学研究带来了革命性变化。此外，人工智能已广泛应用于疫苗研发、芯片设计、气象预测等众多领域。

（六）人工智能加速赋能千行百业。人工智能作为引领新一轮科技革命和产业变革的战略性技术，深刻改变着人类的生产生活方式。一方面，人工智能正加速与实体经济深度融合、提升社会生产力，推动传统产业转型升级、促进新兴产业蓬勃发展、培育未来产业新高地，驱动“无人经济”快速发展。另一方面，人工智能在交通、家居、教育、医疗、养老等社会生活领域产生重要影响，为促进社会公平、增进民生福祉、提升人类生活品质和幸福感提供了更优方案。

（七）人工智能的社会影响日益凸显。伴随着人工智能的快速发展，其产生的社会影响也是多元的、全方位的。一方面，人工智能带来许多正面效应，如拉动经济、服务民生、造福社会；另一方面，人工智能也带来很多社会问题，如安全失控、法律失准、伦理失常、隐私失密等。例如，滥用生成式人工智能技术制作虚假信息，进行诋毁抹黑、敲诈勒索、恶意攻击等，带来极大的安全隐患；智能设备和算法对于个人隐私的发掘分析能力远超以往技术，行踪轨迹、消费数据、生物特征等个人信息和隐私安全问题日趋复杂，防范难度大大增加。

（八）通用人工智能任重道远。通用人工智能旨在研制出具有与人类相同智能水平乃至超过人类智能水平的机器，甚至可能使机器拥有自主意识。近年来，随着神经网络模型能力的不断提升，公众对人工智能产生过高期望，一些专家学者对通用人工智能的发展提出了一些不切实际的预测。当下人工智能距离人类智能水平还有巨大差距，在语义理解、推理、规划、泛化和持续学习等方面仍存在明显不足，还缺少对客观物理世界时空运行规律的本质理解，缺乏深层共情能力。人类距离实现真正的通用人工智能仍有很长的路要走。

2024 年7月4日，上海世博中心，世界人工智能大会产业发展论坛“AI引领生产力变革”演讲现场。（签约摄影师/IC photo）

二、科学研判人工智能发展的风险挑战

习近平总书记指出：“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。”人工智能在加速推进数字世界和物理世界深度融合的同时，也在一定程度上模糊了虚与实的边界，其固有的不确定性、不透明性、不可解释性逐渐凸显，将给人类社会带来诸多风险挑战。

（一）对国家安全的风险挑战。一是意识形态安全风险。历史虚无主义、民粹主义等错误思潮会借助算法推荐技术在网络空间不断扩张，对意识形态安全产生冲击。二是国家治理环境恶化风险。人工智能可以通过深度伪造技术制造虚假信息、混淆公众认知，也会运用精准算法传播加剧“信息茧房”效应、产生舆论操控，导致国家解释权趋弱。三是军事安全风险。军事智能化一旦形成技术“代差”，技术强国对发展中国家实施政治讹诈和技术突袭的可能性将增大。人工智能技术在核、太空等领域的跨域军事应用也将给军事安全带来极大风险。

（二）对产业发展的风险挑战。人工智能技术能力与产品形态的成熟、核心场景的确定、产业的融合程度以及行业的发展息息相关，并非靠短期大量的资金和资源投入就能达到成效，要实现成熟的商业应用，道路还很漫长。以ChatGPT为例，其初始投入成本约8亿美元，每日电费约5万美元，模型每次回答的成本约几美分。面对如此高昂的成本，一方面，资源垄断问题日益突出，科技巨头形成“数字霸权”，不断挤压中小企业的生存空间。另一方面，很多企业和创业团队一哄而上，部分国家政府也不甘落后，盲目跟风导致人工智能无序发展和资源浪费。此外，部分企业利用人工智能热点进行投机炒作，将加剧市场泡沫化风险。

（三）对社会治理的风险挑战。一是数据隐私泄露风险。人工智能的技术特性和应用场景决定了其在应用中极易获取大量隐私信息，可能在用户不知情的情况下收集行踪轨迹、浏览记录、消费数据、生物特征等，使个人信息和隐私保护受到严峻挑战。二是恶意攻击风险。不法分子利用深度伪造技术制作虚假视频、图像，实施敲诈勒索、恶意攻击等活动，对社会安全稳定、个人名誉和财产等造成威胁。三是信息污染风险。人工智能技术滥用使互联网中的虚假信息和低质内容日益泛滥，这类信息的“污染”会使模型对现实的认知产生扭曲，导致结果模型出现不可逆的缺陷。

（四）对伦理和法律的风险挑战。一是引起社会就业结构的重大改变。人工智能已可以自主完成高难度的复杂工作，极大降低内容生产和交互的门槛与成本，各行业人员都面临着人工智能的劳动替代风险，可能引发失业恐慌和社会秩序混乱。行业边界将进一步模糊，颠覆长期以来形成的社会分工体系。二是算法偏差和机器歧视加剧。人工智能算法在透明度、鲁棒性等方面本身就存在局限，将会加剧生成内容的偏见或歧视，放大社会不公。三是触发科技伦理问题。数字孪生、脑机接口和人机共生等科技伦理问题涉及人类生命安全、个人隐私安全、主体责任归属、社会公平公正等诸多风险，人形机器人的大范围应用也将给以人类为唯一主体的社会体系带来很多新问题，例如“AI伴侣”的法律地位问题。四是法律体系面临失效风险。人工智能系统的法律主体资格存疑、权利主体属性不明确，将产生传统法律难以规制的问题。例如人工智能创作内容的知识产权难以界定，无人驾驶系统的交通法规仍需完善，人工智能造成损失的责任难以划定，等等。

2025年2月23—26日，2025全球网络峰会在卡塔尔首都多哈举行。来自中国的多家高科技企业参加峰会，外方企业希望加强与中国科技合作。图为TikTok展台。（rex/IC photo）

三、加快推进人工智能国际治理与合作

近年来，全球人工智能治理的主体和结构愈发多元化，呈现出全领域、多层级、广合作的总体特点。各项倡议、立法、规则呈井喷式涌现，覆盖政治、经济、法律、医疗、社会生活等各领域。在联合国框架下，各国及各类国际组织积极实施人工智能治理和监管，行业组织和企业也参与推动自律自治，地区合作、多边合作、双边合作持续加强。2023年，中国发布《全球人工智能治理倡议》，就各方普遍关切的人工智能发展与治理问题提出建设性解决思路，为相关国际讨论和规则制定提供了蓝本，体现了中国的大国责任担当。

然而，当前人工智能国际治理仍面临多重挑战。一是缺乏统一的全球治理框架。各国在重大问题上还缺乏共识，很多法规差异难以协调，非约束性的国际倡议效力有限，具有实质性约束力的治理规则构建尚需时日。二是各国利益诉求各异。发达经济体更关注技术安全与伦理问题，新兴经济体和其他经济体则强调经济与社会发展机遇，治理权力的不平衡进一步加剧了关注点的分化。三是治理碎片化。人工智能技术发展的快速性与治理体系构建的滞后性之间存在矛盾，静态法规难以应对动态风险，造成治理框架分散、效率低下。

习近平主席强调，坚持以人为本、智能向善，在联合国框架内加强人工智能规则治理。具体而言，加快推进人工智能国际治理与合作，需要在以下四个方面着重突破：

（一）坚持“以人为本”，坚守人工智能发展正确方向。无论技术如何迭代，都应在智能时代坚守初心、向善而行。一方面，多边治理主体要进一步达成人工智能发展的价值共识，确立好根本治理原则，以增进人类共同福祉、服务人的全面发展为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展。另一方面，国际社会应形成对于人工智能发展的风险共识，并在法律、伦理等层面加以引导，尽快建立人工智能风险评估与预警体系，确保人工智能的研发和使用活动安全可控，符合全人类共同价值，防范其危害国家安全、公共利益以及组织、个人的合法权益。

（二）坚持“开放共享”，推动人工智能应用普惠可及。由于不同国家和地区在科教力量、基础设施、产业结构和社会经济基础方面存在差异，人工智能发展不平衡的问题日益突出。一方面，要深化开源开放，推动人工智能技术、人才、基础设施共享，帮助全球南方国家加强技术能力建设，建立国际人工智能技术共享平台，打破数据壁垒和技术垄断，实现各国公平利用数据资源、共享人工智能红利，弥合全球智能鸿沟。另一方面，要持续扩大相关学术组织与企业、行业组织的交流合作，构建开放共赢的国际科技合作生态，着力打破个别国家对其他国家学者参与国际交流合作的限制，避免技术封锁和人才保护主义制约技术交流与进步。

（三）坚持“以技治技”，创新人工智能技术治理手段。人工智能的决策过程和决策逻辑不透明，呈现“黑箱”特性，现有技术并不具备对自身进行监管和控制的机制，在技术层面存在明显的治理真空。各国家和地区的研发主体应不断提高人工智能的可解释性和可预测性，打造可审核、可监督、可追溯、可信赖的人工智能技术，将最直观量化的算力作为治理对象，间接实现人工智能治理。同时，要以人工智能技术防范人工智能风险，积极设计开发能够有效用于人工智能治理的技术与应用，追踪并评估人工智能治理框架的落实情况，提高人工智能治理的技术能力。

（四）坚持“系统集成”，构建人工智能多边治理格局。在世界和平与发展面临多元挑战的背景下，国际社会应该在全球范围内广泛凝聚共识，积极构建开放、公正、有效的多边治理机制，共同促进人工智能技术真正造福人类。一方面，各国家和地区以及相关国际组织要加强治理规则、技术标准的对接协调，围绕人工智能安全、伦理道德、数据隐私、跨境监管、军事应用等关键议题达成共识，建立健全法律和规章制度，完善人工智能伦理准则及问责机制。充分尊重各国差异性，提升发展中国家的话语权，确保各国开发和利用人工智能技术的权利机会平等。另一方面，企业、研究机构、社会组织和个人等其他多元治理主体要积极发挥与自身角色相匹配的作用，共同参与人工智能治理体系的构建和完善，实现全球人工智能发展领域的共商共建共享。

人工智能国际治理是关乎推动构建人类命运共同体的时代课题。面对人工智能带来的机遇与挑战，既需标准互认、风险共防，也需伦理先行、法治护航。我们需要进一步凝聚共识、深化协作，始终遵循“以人为本”的价值导向，让技术进步与文明发展同频共振，使人工智能真正成为增进人类福祉的向善力量。

作者系中国科学院院士、九游APP下载党委书记

文章原载于《当代世界》2025年第5期