王报换代表：加强治理确保人工智能健康发展

发布时间：2025-03-20 12:29:56 来源:AI工具屋

“人工智能技术的飞速进步，带来前所未有的发展机遇，但也带来数据安全隐患和算法风险。”正在进行的北京市人代会上，市人大代表、北京社会主义学院一级巡视员王报换针对人工智能技术“双刃剑”效应应对提出建议。

王报换说，在人工智能的训练过程中，数据是核心，但如何确保数据的合法性和正当性却是一大难题。版权问题、恶意爬取等都需要国家层面进行明确的定义和监管。此外，训练数据的偏见和攻击性也极大影响着人工智能的输出结果，“若输入的数据带有偏见或恶意，那么模型输出的内容很可能同样带有偏见或误导性。”

王报换还认为，人工智能平台本身也可能存在安全隐患，如开发框架存在安全漏洞、插件问题等，可能导致智能服务的中断或数据泄露。另外，人工智能让生成攻击脚本和代码变得更加容易，网络攻击的检测和防御就变得更加困难。

除了技术和平台风险之外，人工智能也给社会生态和治理带来了新的挑战。“它降低了违规内容生成的门槛，使得网络诈骗、恶意软件等变得更加容易和普遍。因此，需要加强对人工智能技术的监管和治理，以确保其健康、有序发展。”王报换说。

王报换建议，积极推动人工智能技术在网络安全领域的应用，如利用大模型进行网络攻击防御、自动化监测和响应等，以提升网络安全的防护能力。

在他看来，未来网络空间安全可以以人工智能安全大模型为核心，按需灵活调用已有的安全技术，或生成新的内容来共同实施安全保障。“这不仅可以提高网络安全的防御能力，也可以降低网络安全成本，提高网络安全的整体效益。”至于人工智能治理规则的制定和推广问题，他认为，需要加强国际合作，共同应对人工智能带来的挑战。