第二十六届高交会开幕高新技术论坛聚焦人工智能安全等热点问题

11月14日，以“科技引领发展 产业融合聚变”为主题的第二十六届中国国际高新技术成果交易会（以下简称高交会）在深圳国际会展中心拉开帷幕。

本届高交会共有来自全球100多个国家和地区的5000余家高新技术企业参展，其中世界500强企业及央企180余家，上市公司1000余家，“瞪羚企业”“独角兽企业”2000余家，专业观众预计达50万人次。

在本届高交会“中国高新技术论坛”上，中国工程院院士、跨国公司总裁、知名企业家等行业大咖，围绕“新质生产力引领未来产业发展”的主题分享了各自对科技的探索以及前沿思考。

“2024中国高新技术论坛”现场 图片来源：主办方提供

新质生产力带领行业从“老三高”走向“新三高”

在论坛上，中国工程院院士、香港理工大学电动车研究中心主任兼电机及电子工程学系杰出讲座教授陈清泉表示：“现在各行业都在提新质生产力⋯⋯新质生产力需要摆脱传统的经济增长方式，通常来说具备‘新三高’的特点，即高科技、高效能、高质量。通过‘新三高’取代过去高投入、高消耗和高排放的‘老三高’模式。”

在陈清泉看来，过往的农业经济时代是以个体劳动为主体，工业经济时代是以大生产为主，而现在正迈入的数字经济时代，将把算力作为核心竞争力。

“我主要从事电动车领域研究，电动汽车行业给我最大的感悟就是，汽车的革新不能孤立进行，我提出的是‘四网融合’，即通过交通网、能源网、信息网、人文网的融合，可以在各行业产生无穷的价值机会。”陈清泉说道。

中国工程院院士、鹏城实验室主任高文，则主要围绕今年诺贝尔奖的得奖情况，探讨了人工智能对社会的深度影响，并提及相关竞赛在识别和奖励创新中的重要性。

“在智能时代，算力规模是国际竞争力的核心要素⋯⋯算力优势不在于算力体量，而是更高的计算效率、广泛的新兴技术应用以及健全的基础设施支撑。”高文表示。

他介绍说，人工智能行业的重要转折点出现2012年。“当时，行业内一般会拿自己的人工智能模型去参与比赛，当时比赛标准是谁做的系统错误率更低，谁就胜出。2010年错误率最低的队是28%，2011年是26%，2012年取得了突破，降至16%。到了2013年后，实现突破的团队使用的深度神经网络技术开始普及开来。后来该技术应用到机器自动识别、自动分拣系统，包括今天的语音识别，基本上都是走的神经网络这条技术路线。”

“（促进）人工智能行业的加速发展，科学比赛非常重要。另外，人工智能的大模型要有自己的底座，要有自己的算力，这样才能承载我们想做的智能和传承。”高文说道。

人工智能新发展阶段带来的安全风险和隐患不容忽视

人工智能行业的快速发展以及在各行各业的实际应用，是论坛上不少行业大咖提及较多的话题。但随着行业迅猛发展，人工智能行业显现的安全风险和隐患也越来越被重视。

“现阶段，人工智能行业风起云涌，技术创新日新月异，甚至在去年的时候国内还出现了‘百模大战’的局面。行业发展到现在已经进入到了一个新阶段，我们不仅感受到人工智能喷涌式的发展速度，更多专家在这发展过程中也关注到了人工智能的安全隐患和风险。”中国电子信息产业集团有限公司党组成员、副总经理谢庆林分享道。

谢庆林表示：“人工智能更需要安全。比如现在大家用得比较多的大模型，估计大家都有过输出结果没那么可靠的体验，甚至有时候大家评价‘它在一本正经地胡说八道’。这其实是一个比较小的点，但如果我们对基础架构、底层技术等缺乏足够的掌握，一旦出现极端情况，小到一个大模型、大到一个系统甚至整个行业，都可能面临着更多的安全威胁和挑战。”

在谢庆林看来，人工智能的安全，既要智能计算的安全，也要“关键根子”的安全。

“从中国电子的实践经验来看，要解决智能计算的安全问题主要有三个方向，分别是体系安全、平台安全和供应链安全。这三个安全是我们所说的智能计算安全的关键和核心。”谢庆林说道。

谢庆林表示，随着当前金融、电信、能源等行业对智能计算需求越来越旺盛，同时对安全性、可靠性也提出了更高要求，自主计算产业链的优势将会变得越来越显著。

此外，北电数智CMO、战略与市场负责人杨震在谈及当下困扰人工智能企业的一些问题时表示，不少企业基本是从“不敢”“不会”和“不愿意”三个维度去考量。

“所谓‘不敢’，就是对国产算力的疑惑，不确定国产算力性能如何，担忧面临的合规和安全压力；‘不会’，则主要是从业务层面的考量，就算算力能满足，使用过后能否支撑实际业务；而‘不愿意’，主要包括不愿意重构产品业务以及不愿意投入资金和人力。”杨震认为，目前多数企业在人工智能领域的探索，主要集中在上述三个方面。