生成式人工智能如何实现“向上向善”发展？新规与挑战全解析

在当前人工智能技术飞速发展的背景下，生成式人工智能成为了引领科技革命的重要力量。作为一项创新性技术，生成式人工智能不仅在科学研究、社会治理等领域产生了显著影响，同时也带来了许多新的挑战和风险。因此，我们需要关注如何通过最新政策和规范，实现生成式人工智能的健康发展，并推动其“向上向善”的目标。

作为引领新一轮科技革命和产业变革的关键技术，以ChatGPT、Sora等为代表的生成式人工智能，不断催生新场景、新业态、新模式和新市场，在科学研究、生产制造、文娱服务、社会治理等众多领域产生了重大影响。与此同时，生成式人工智能给社会治理、伦理道德带来的风险和挑战也引起广泛关注。党的二十届三中全会《决定》指出，完善生成式人工智能发展和管理机制。引导生成式人工智能“向上向善”，在更广泛领域健康发展，成为一个亟待解决的重要命题。

作为人工智能的一个分支，生成式人工智能是基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术，能够针对用户需求，依托事先训练好的多模态基础大模型等，利用用户输入的相关资料，生成具有一定逻辑性和连贯性的内容。与传统人工智能不同，生成式人工智能不仅能对输入数据进行处理，更能学习和模拟事物内在规律，自主“生成”新的内容。这种“生成”，将对大众生活、经济发展、社会治理、科学研究等领域的效率、能力、模式、规则等产生积极影响，加速赋能千行百业。近年来，我国生成式人工智能快速发展，新技术不断突破，新业态持续涌现，为经济社会发展注入了强劲动能。

但也要看到，生成式人工智能给经济社会治理带来新的挑战，尤其是在发展过程中的安全问题。比如，生成式人工智能技术可能会被用于制造假信息、假新闻，误导社会舆论；可能被用于伪造视频和图片，实施网络诈骗行为；可能被用于虚假刷单、刷榜和灌水，误导消费者选择，影响市场公平竞争；可能被用于自动化生成大量的数字内容，侵犯他人版权或隐私……因此，在推进生成式人工智能技术发展和创新应用过程中，要及时完善相关规章制度和加强监管保障，做好相关技术风险评估和安全管理。

如何与人工智能“朝夕相处”，拥抱更美好的智能时代？前提就在于把好科学技术的“方向”，坚持“以人为本、智能向善”。***总书记指出，“要坚持促进发展和依法管理相统一，既大力培育人工智能、物联网、下一代通信网络等新技术新应用，又积极利用法律法规和标准规范引导新技术应用。”对此，我国已做出不少有益探索：2023年国家网信办会同相关部门发布《生成式人工智能服务管理暂行办法》，明确提出提供和使用生成式人工智能服务，应当遵守法律法规，尊重公序良俗；2023年世界互联网大会正式发布《发展负责任的生成式人工智能研究报告及共识文件》，推动生成式人工智能发展与治理协同共进。

当前全球已进入大模型“后时代”，技术治理的重要性日益凸显，各国都在以“规则之治”护航人工智能健康发展。我们要在创新中治理、在治理中创新，保证技术创新在法治轨道上运行。通过构建人工智能安全治理的政策法规和制度体系，以良法善治实现激励发展与合理规制的有机统一，确保生成式人工智能安全、可靠、可控。人工智能迭代速度很快，处于不断变化之中，必须完善与其发展相适应的科学监管方式，推进生成式人工智能与网络安全、信息安全等领域融合，防范数据泄露、恶意攻击和其他安全漏洞。

推动生成式人工智能健康发展，需要多方协同、共建共治。加强**主导，建立人工智能监管统筹协调机制，引导行业组织、企业、教育和科研机构、网络平台和有关专业机构强化审慎自律，构建多元主体参与的人工智能安全治理框架和工作体系，加强人工智能全球合作与对话，在规范中实现生成式人工智能技术的“向上向善”。

为了确保生成式人工智能在科学技术的“方向”上行稳致远，我们必须积极应对技术带来的挑战，完善相关政策法规。通过**主导、多方协同以及全球合作，我们可以在推进技术创新的同时，保障其安全、可靠和可控，推动生成式人工智能在更广泛领域实现健康发展。