人工智能国际监管，联合国成主要渠道

为应对种种挑战，确保人工智能向善，2025年人工智能全球治理的必要性进一步凸显。

社会冲击效应增强

2024年全球人工智能技术持续爆发式增长，前沿大模型的竞争日益激烈。Claude 3.5 Sonnet、Gemini 1.5、Grok 2等模型迅速缩小了与OpenAI公司的GPT-4在各项能力上的差距，OpenAI则通过新的o1模型展现了强大的逻辑推理能力，回应了关于大模型只是“搜索引擎”，“知其然而不知其所以然”的批评，再次引燃人们对大模型未来的想象。人工智能技术与产业应用的融合也愈发紧密，以Sora为代表的生成式模型推动自动驾驶技术发展，以腾讯Robotics X实验室研发的TRX-Hand为代表的具身智能机器人和机械臂则为智慧医疗产业赋能。

在技术应用狂飙突进的同时，人工智能带来的社会冲击效应也持续增强。在经济领域，美国劳工部数据显示，IT行业失业率普遍高于全国失业率，其中8月IT行业失业人数高达148000人，几乎成为21世纪初互联网泡沫破灭以来最高点。有观点认为，人工智能的快速发展是失业浪潮的“罪魁祸首”。在军事安全领域，人工智能的广泛应用让科幻电影中的惊悚场面映入现实。以色列的“薰衣草”智能打击系统能更精准高效地识别和打击目标，几乎让人无处藏身，也导致更多平民伤亡和人道主义危机。在社会治理领域，人工智能不当使用给个人生命和财产安全带来危害的案例越来越普遍。人工智能聊天软件Character.AI疑因诱导一名14岁青少年自杀而在美国佛州遭到起诉，世界各地犯罪分子利用大语言模型和“换声变脸”技术实施诈骗，受害者不计其数。

国际合作加强治理

2024年，联合国正积极发挥全球人工智能治理的主渠道作用。2024年3月21日，联大通过题为《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》的首个人工智能决议；2024年7月1日，联大通过中国提出的《加强人工智能能力建设国际合作》决议；2024年9月22日，联合国未来峰会通过包括《全球数字契约》和《子孙后代问题宣言》在内的《未来契约》，为推动全球人工智能治理确立了方向。在其他国际合作平台上，人工智能治理也成为重点议题。二十国集团里约热内卢峰会宣言提出“负责任、包容和以人为本”的治理原则，“促进有利于创新的人工智能治理”，呼应了联合国决议。金砖国家喀山峰会宣言同样支持联合国发挥更大作用，突出“金砖+”机制在推动发展中国家人工智能能力建设方面的作用。中国坚定支持联合国在多边治理中的核心地位，在贯彻落实《全球人工智能治理倡议》基础上，提出《人工智能能力建设普惠计划》，成立中国-金砖国家人工智能发展与合作中心，促进普惠发展，缩小数字鸿沟。

展望今年，美国或成为全球人工智能治理的最大不确定因素。美国当选总统特朗普已明确表示会修改关于人工智能的行政令，进一步放松监管，确保美国在人工智能领域的主导地位。然而由于技术发展过快且已带来诸多负面后果，放任人工智能“野蛮生长”势必给全球带来负面效应，“毁约退群”的行事风格将给全球治理蒙上阴影。