党的二十届三中全会审议通过的《中共中央关于进一步全面深化改革 推进中国式现代化的决定》（下称《决定》）对健全网络综合治理体系作出系统部署合法的炒股融资方式，其中提出，要完善生成式人工智能发展和管理机制。

日前，中央网信办主任庄荣文在接受新华社记者采访时强调，（在生成式人工智能领域）要守牢安全底线，防范滥用风险。

截至目前，我国完成备案并上线、能为公众提供服务的生成式人工智能服务大模型已达190多个，注册用户超过6亿。下一步，将继续促进生成式人工智能技术在工业、农业及教育、医疗、卫生等领域落地应用，激活人工智能技术赋能实体经济发展的作用，合力推动人工智能在传统行业领域应用中取得更大突破。

生成式人工智能是一把双刃剑，在给许多领域带来重大变革的同时，也产生或孕育着国家竞争力风险、技术安全风险、网络安全风险、经济社会风险等各种风险。这是强调要完善生成式人工智能发展和管理机制的出发点所在。

生成式人工智能是世界性赛道，各国都非常重视，有一些经验可以借鉴，但核心领域的创新只能依靠自己的努力。

核心领域有硬件和软件两个方面。对前者来说，要着力促进自主可控算力芯片产业发展，这是生成式人工智能发展的基础性要素，也是当前和今后一段时间的“卡脖子”所在。

去年8月工业和信息化部等四部门发布的《新产业标准化领航工程实施方案（2023—2035年）》指出，要研制新型存储、处理器等高端芯片标准，开展人工智能芯片、车用芯片、消费电子用芯片等应用标准研究。这将对我国自主可控算力芯片发展起到引导和激励作用。

当前，我国能为公众提供服务的生成式人工智能服务大模型已达190多个，但在产出成果和应用效果上还与先进国家存在一定差距，加速自主大模型研发和应用仍是各方面临的紧迫任务。“自主”是重点，发挥社会各方面的合力作用是路径。

在生成式人工智能迅猛发展的同时，防范滥用风险也成为公众关注的重要方面。正如上述采访中庄荣文强调的那样，今后要指导相关平台企业合法合规向网民提供优质服务，防范技术滥用带来的个人数据泄露、虚假信息生成、知识产权侵权等风险。

另外需要强调的是，需要防范的风险还包括涉及用户生物识别信息、健康信息等个人数据泄露而引发的诸多问题。这涉及生成式人工智能应用的伦理道德问题，技术发展和应用不能违背伦理道德是一个基本要求。

为此，本月1日正式生效的欧盟《人工智能法案》明确，所有被认为对人们的安全、生计和权利构成明显威胁的人工智能系统都将被禁止。

我国去年8月施行的《生成式人工智能服务管理暂行办法》（下称《暂行办法》）明确规定，有关生成式人工智能的内容要合法合规、禁止算法歧视、不得生成虚假信息、不得侵犯他人合法权益等相关内容。这对生成式人工智能可能带来的伦理道德风险具有重要的警示作用。

完善生成式人工智能发展和管理机制还需要加强法规建设，并进而形成协同共治的局面。

在加强法规建设方面，《暂行办法》的制定施行在全球范围内具有领先意义，但这仅仅是一部行政法规，还有较大的提升空间。

在今年的全国两会期间，有多名人大代表提出了关于制定人工智能法的议案，建议对人工智能发展和崛起所导致的各类法律问题开展立法研究，适时制定出台人工智能法。因为这些代表认为，《暂行办法》仍不能较全面地涵盖人工智能所引发的各类问题，不足以做好与现行法律的衔接工作。

在协同共治方面，要进一步推动人工智能的安全和应用治理，政府监管、行业自治、企业自律、社会监督协调一致。

总而言之，近年来，我国生成式人工智能快速发展，新技术不断突破，新业态持续涌现，为经济社会发展注入了强劲动能，但也面临着许多亟待解决的问题，包括强化自主可控、引导和规范应用落地、防范滥用风险、实现协同共治等。这些问题的解决将为推动生成式人工智能产业发展、技术进步与安全保障提供坚实基础。

举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。 如需获得授权请联系第一财经版权部：021-22002972或021-22002335；banquan@yicai.com。 文章作者

一财评论员

一财社论 相关阅读 瑞银：超高净值人群偏爱另类投资，首选人工智能主题

抓住优质稀缺的投资资源进行布局，达到个人财富和社会发展的双赢。

06-26 17:28 开源大模型与闭源大模型：优劣势对比与未来发展

人工智能大模型是基于深度学习技术的大规模神经网络模型，具有大量参数和复杂结构，能完成如自然语言、语音、图像处理与生成等各类复杂任务，对人工智能行业具有重要意义。中央网信办等部门在联合印发的《信息化标准建设行动计划（2024—2027年）》中提出加快推进大模型、生成式人工智能标准研制。为此研究大模型的不同发展模式，促进大模型的规范化标准化具有重要的现实意义。

06-19 02:08 英伟达：Blackwell芯片已投产 联合电脑生产行业打造AI工厂和数据中心

英伟达传来重磅消息。6月2日，英伟达创始人兼CEO黄仁勋宣布，英伟达Blackwell芯片现已开始投产。此外，英伟达联合全球范围内多家顶级电脑制造商发布了一个以英伟达Blackwell架构支撑的系统“列阵”，配置Grace CPUs、NVIDIA网络设备和基建，以支持企业打造“AI工厂”和数据中心，从而推动下一波生成式人工智能突破。

06-03 13:18 工人应该害怕人工智能吗

未来工作研究所发现，虽然技能要求发生了一些变化——主要是在信息技术领域——但雇主想要的大多数技能并没有改变。这些技能包括建立良好的客户关系、与他人清晰沟通以及一些基本的IT能力。

05-05 21:12 AI周报| OpenAI“宫斗”大戏调查结果公布；OpenAI最强竞对发布Claude 3

OpenAI公开邮件回应马斯克起诉；黄仁勋预测五年内AI可通过任何人类测试合法的炒股融资方式。

03-11 10:56 一财最热 点击关闭