国家安全部：不法分子可能借助人工智能技术进行数据窃取、网络攻击等违法犯罪活动

自1956年首次提出概念，人工智能技术的发展经历多次起落。近年来，随着大数据、云计算、互联网、物联网等新兴技术的融合发展，人工智能又迎来了蓬勃发展期，并成为举世公认的前沿技术代表“名片”之一。在新一轮科技革命和产业革命加速演进的浪潮下，图像分类、语音识别、问答系统、人机交互、无人驾驶等人工智能技术正成为推动传统产业升级换代的决定性力量和全球经济发展的新引擎，世界各国纷纷把发展人工智能作为提升国家竞争力、维护国家安全的重要抓手。然而，一枚硬币分两面，技术的狂飙突进也伴随着风险的陡然上升。著名物理学家霍金就曾表示，强大人工智能的崛起，对人类来说，可能是最好的事情，也可能是最糟糕的事情。人们惊呼“未来已来”的同时也在担心“未来安不安全”，人工智能安全问题越来越受到重视。

人工智能安全是指通过采取必要措施，防范对人工智能系统的攻击、侵入、干扰、破坏和非法使用以及意外事故，使人工智能系统处于稳定可靠运行的状态，以及遵循人工智能以人为本、权责一致等安全原则，保障人工智能算法模型、数据、系统和产品应用的完整性、保密性、可用性、鲁棒性、透明性、公平性和隐私的能力。人工智能安全涉及内生安全、衍生安全和发展安全，是国家安全的关键领域。

以善治促善“智”

***总书记深刻指出：“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应。”

人工智能是人类发展的新领域，也是国家安全最为前沿的新兴领域。作为一项赋能型技术，人工智能在智能交互、决策辅助、智能建模等方面具有强大创新能力和广泛应用场景，能够带动国家安全能力整体跃升和跨越式发展，是维护和支撑经济、科技、网络等其他领域安全的重要力量。作为一项革命性技术，人工智能具有技术属性和社会属性双重特征，人工智能的发展和应用将对伦理道德、社会稳定带来一系列影响，如何实现人工智能发展与治理的平衡，是国家安全治理的重要议题。

党的十八大以来，以***同志为核心的党中央高瞻远瞩，抢抓新一轮科技革命、产业变革风口，把发展人工智能提升到战略高度，深化人工智能研发应用，开展“人工智能+”行动，推进人工智能赋能千行百业，大力推动发展方式转变、经济结构优化、增长动力转换，有力支撑现代化产业体系完善和新质生产力发展，智慧农场、智能工厂、智能港口、智慧家居、智能教育等应用场景得到极大拓展，人民群众日益增长的美好生活需要得到不断满足，中国人工智能创新水平已进入世界前列，为强国建设、民族复兴提供了新的澎湃动能。

以可控促可靠

人工智能技术发展和其他技术进步一样，也是一把“双刃剑”。由于技术的不确定和应用的广泛性，可能会给国家安全和人民利益带来诸多风险，因此未雨绸缪十分必要，必须加强对人工智能发展的战略研判，加强前瞻预防和约束引导，最大限度降低风险。

总的来看，随着人工智能技术在不同领域应用程度的深化，其引发的安全风险也涵盖了国家、社会、企业和个人等多个层面。不法分子可能借助人工智能技术进行数据窃取、网络攻击、经济犯罪、制造传播虚假信息等违法犯罪活动，敌对势力甚至可能开展攻击抹黑、舆论造势、文化渗透等干扰破坏活动，对国家安全和社会秩序带来风险与挑战。

中国始终以鼓励人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，按照风险管理的理念，紧密结合人工智能技术特性，分析人工智能风险来源和表现形式，针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险，开展综合防治、系统施治，推动社会各方积极参与、协同治理，不断培育安全、可靠、公平、透明的人工智能技术研发和应用生态，促进人工智能健康有序发展。

以共建促共享

人工智能治理攸关全人类命运，是世界各国面临的共同课题。作为人工智能技术大国，中国始终致力于在人工智能领域构建人类命运共同体，积极推动深化人工智能发展和治理国际合作，先后提出了《中国关于加强人工智能伦理治理的立场文件》《全球人工智能治理倡议》等一系列文件倡议，主提的加强人工智能能力建设国际合作决议获第78届联合国大会协商一致通过，持续为推进人工智能的全球治理提供中国方案，贡献中国智慧，得到国际社会的高度评价。中方新近成立中国-金砖国家人工智能发展与合作中心，愿同各方深化创新合作，释放人工智能能量。

国家安全机关将在党中央坚强领导下，贯彻总体国家安全观，与有关部门一道，以有力行动维护人工智能安全，保障人工智能始终朝着有利于维护国家安全、促进社会进步和增进人民福祉的方向发展。