应对AI挑战引导科技向善

10月25—27日，一场来自全球顶尖智慧的头脑风暴在上海临港汇聚。从应对当下全球挑战到未来人工智能治理、从生命科学前沿到物理科学边界，在2024世界顶尖科学家论坛上，包括11位诺贝尔奖得主在内的近300名世界顶尖科学家齐聚盛会。他们从不同的专业出发，诠释了用科技塑造可持续未来、用科技提升人类共同福祉的梦想。

“科学或技术本身是中性的，但技术有时会带来一些让人始料未及的威胁和挑战，其中就包括全球气候变暖、区域纷争等世界难题。”2004年诺贝尔物理学奖得主、美国加州大学圣塔芭芭拉分校教授大卫·格罗斯在世界顶尖科学家论坛开幕式主旨演讲中说，“这就需要全球科学家合作，应对不断变化的各种世界难题，引导科学向善，青年科学家更需要站出来挑起大梁。”

在今年的世界顶尖科学家论坛上，AI相关的议题占据了重要部分。当AI成为新的生产力，我们是否准备好应对AI带来的“双刃剑”效应？在世界顶尖科学家智能科学大会上，顶尖专家和行业人士共同探讨如何构建全球AI监管体系。

“过去几十年甚至上百年来，科学研究一直面临着一些困境。如今，随着AI的发展，科学研究将迎来一系列新突破。”中国科学院院士、北京大学智能研究院院长、北京大学国际机器学习研究中心主任鄂维南分析说，许多科学研究中，AI已成为不可或缺的工具。例如，AlphaFold系列模型拥有预测蛋白质单链、复合体及复杂生物分子结构的能力，一举解决了困扰生物科学多年的基础问题。

“人工智能不是一诞生就带来了威胁，而是机遇中伴随着威胁。”面对AI背后的伦理风险和安全挑战，中国新一代人工智能发展战略研究院执行院长龚克在论坛上表示，如今由**、国际组织或是知名国际会议发表的治理框架或者宣言多达几百个，可它们是“支离破碎”的，在协调和执行上存在不小的问题。他认为，加快建立全球性AI治理框架是当务之急。

2010年诺贝尔经济学奖得主、英国伦敦**经济学院教授克里斯托弗·皮萨里德斯特别关注AI对于未来人类工作的影响。他认为AI广泛应用的时代也许即将到来，但当前AI的应用仍然非常有限。根据其理论研究与社会调查发现，现在大多数情况ai应用场景较为简单，主要的应用是影像识别监控等。AI技术有可能构成新的人机竞争而降低员工的福祉，他呼吁：“科技在提高生产力的同时，也应该能够持续提升员工的福祉。”

作为2024世界顶尖科学家协会奖“智能科学或数学奖”得主，美国康奈尔大学计算机科学和信息科学讲席教授乔恩·克莱因伯格表示：“计算机科学家不仅需要‘确保我们所搭建的算法、选择的设计能造福人类’，也需要与经济学、社会学、行为科学、法学和政策研究等领域专家深入合作，希望我们能全力以赴、创造性地解决这些问题。”