北京香山论坛中外名家对话：像治水一样治理人工智能安全问题

▲2024年9月12日，第十一届北京香山论坛中外名家对话会。 图/新京报记者柯锐新京报讯（记者柯锐）9月12日，备受瞩目的第十一届北京香山论坛在北京举行。当天下午，论坛举行中外名家对话会，主题为人工智能安全。研讨专家围绕人工智能能否自主决策、是否可信，如何管控人工智能可能带来的风险等议题进行了深入讨论。会上，人工智能是否值得信赖问题备受关注，对此，东京大学生产技术研究所特聘教授、日本工程院外籍院士胡昂表示，人工智能这个“黑盒”是否可信，这是一个终极问题。在他看来，人脑不可替代，“至少在短时间内人工智能难以取代人脑做决策”。在联合国教科文组织人工智能与数据科学促进社会发展教席、荷兰海牙应用科技大学数据科学教授兰普罗斯·斯特吉乌拉斯看来，人工智能是否能取代人脑自主决策，这是一个哲学问题，也是一个现实问题，值得关注。 他还表示，当前对人工智能的监管面临很大挑战，监管要加速，要更加敏捷。“人类的技术人员都会犯错，何况机器？”兰普罗斯·斯特吉乌拉斯建议，各国**间有必要制定协议，从政策层面加强监管。他同时强调要关注南方国家在人工智能发展中面临的不公平、不公正现象。清华大学信息科学技术学院院长、中国工程院院士戴琼海也表示，要解决“AI鸿沟”问题，让人工智能更多造福人类。戴琼海还认为，未来三年，人工智能发展将进入快车道。由于人工智能发展的不可预测性，相关伦理、治理要走在前面，要降低人工智能应用的安全风险，使其为人类谋福祉。美国国防分析研究所研究员，美国前助理国防部长帮办施灿德认为，人工智能的安全问题涉及方方面面，除了国防，还包括民生等。因此，他建议，国家间达成多边协议，缓解人工智能安全风险。军事科学院少将副院长、中国科学院院士陈小前在为对话会总结时，提及了“大禹治水”的典故，他认为对人工智能安全风险治理要像治水一样注重疏导，“祖先有智慧，我们今天的人类也一定会有办法”。今年是和平共处五项原则发表70周年。在这一重要历史节点上，本届北京香山论坛以“共筑和平、共享未来”为主题，意义重大。本届论坛紧扣国际社会安全关切，设置了“安全合作与亚太繁荣稳定”“多极化与国际秩序走向”“‘全球南方’与世界和平发展”“国际机制与全球安全治理”4个全体会议议题，以及“东盟与亚太地区安全架构”“维护东北亚安全稳定”“欧洲安全走向”“中东和平愿景”“中美正确相处之道”“新兴技术向善”“国际军控的未来”“武装冲突中的人道主义危机”8个平行分组会议议题。将有100余个国家、国际组织官方代表团的500余名官方代表，以及200余名中外专家学者参会。