AIGC领域风险事件频发 亟须立法保障产业可持续发展

连日来，AIGC（基于人工智能生成内容）领域发生多起风险事件，引发社会各界高度关注。

国内法律、人工智能、经济学领域相关专家表示，我国应抓紧时机研究AIGC领域相关法律制度，为AIGC领域及早立法，推动AIGC产业实现健康可持续发展。

AIGC领域风险事件频发引关注

3月31日，据央视报道，意大利个人数据保护局表示，已就OpenAI聊天ChatGPT涉嫌违反数据收集规则展开调查，即日起禁止使用ChatGPT，并暂时限制OpenAI处理意大利用户数据。据悉，OpenAI公司必须在20天内通过其在欧洲的代表，向意大利个人数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。

此外，欧盟执法机构欧洲刑警组织警告ChatGPT可能被滥用于网络钓鱼、虚假信息和网络犯罪；非营利组织人工智能与数字政策中心（CAIDP）也向美国联邦贸易委员会（FTC）投诉称，GPT-4“有偏见性，欺骗性，对隐私和公共安全构成风险”。

记者了解到，截至4月2日记者发稿时，在微信直播间中，仍然有“ChatGPT星球”等多个直播号在与观众互动，并现场连线ChatGPT回答观众问题，同时兜售个人所著书籍。

日前，1000多名科技人士签署了一封公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。该倡议的宗旨在于为人类留出时间，思考AI开发的合规性和安全性，并助力人类展开相关的工作。

联合国亦高度关注上述情况并采取相应措施。3月30日，联合国教科文组织（UNESCO）总干事奥德蕾·阿祖莱发表声明，呼吁各国尽快实施该组织通过的《人工智能伦理问题建议书》，为人工智能发展设立伦理标准。该声明表示，“联合国教科文组织的《人工智能伦理问题建议书》设立了适当的规范框架。现在是时候在国家层面实施这些战略和法规了。我们要言出必行，确保实现上述建议书的目标和内容。”

相关领域立法工作刻不容缓

国内AIGC领域近日也发生一起风险事件，引发社会高度关注。3月31日，光明网报道，一位女网友在网上晒出自己在地铁列车的照片被别有用心的网友下载，并用AIGC技术“一键脱衣”，造谣图随后在网上广泛传播。此事引发网友关注并冲上热搜，不少网友怒斥：“科技不应该用在这上面！”

对于上述情况，湖南金州律师事务所高级合伙人资深律师邢鑫在接受记者采访时表示，“这一行为已经构成了数个犯罪事实，其中包括触犯刑法。按刑法第364条规定，制作、复制、传播淫秽音像制品，应处有期徒刑、拘役或者管制，并处罚金。向不满十八周岁的未成年人传播淫秽物品的，从重处罚。”

邢鑫补充说，“使用AIGC技术生成淫秽物品并传播、牟利和侵犯他人权益，属于新型犯罪，具有犯罪成本低、犯罪手段隐蔽、受害范围广大、影响持续时间长等特点。当前尚无AIGC领域的专门法案，容易出现‘甲错乙罪’的犯罪错位等情况。‘甲错乙罪’具体表现为，实施犯罪者犯有甲种罪错却没有对应法案，只能按乙种罪名进行判罚结案，不利于审判执法、警示教育、维护受害人权益和维护社会秩序。”

2021年，我国发布的《法治中国建设规划（2020－2025年）》当中明确提出，加强信息技术领域立法，及时跟进研究数字经济、互联网金融、人工智能、大数据、云计算等相关法律制度，抓紧补齐短板。加强区域协调发展法律制度建设。制定和修改法律法规要着力解决违法成本过低、处罚力度不足问题。

长年深耕人工智能领域的湖南大学信息科学与工程学院博士生导师、教授张大方多次呼吁对AIGC领域尽早立法。

张大方向记者阐述了对AIGC领域立法工作的“四条红线”思路，“AIGC立法当中应有‘四条红线’思路，即AIGC技术不能危害全人类共同的生存、和平、发展的利益，不能颠覆国际国内社会所公认的公平正义，不能侵害个人的合法权益，不能妨害相关产业的正常健康发展。在AIGC的理念提出、框架设立、工作原理、模型开发、数据收集、用户交互、使用场景等领域都应有法律覆盖，应当既有对AIGC产业发展的整体法，也有对AIGC开发、使用、传播、审定等环节的专门法，还应当与国际法规条例进行接轨，便于日后实施国际司法协助。”

湖南大学经济与贸易学院副院长曹二保赞同上述观点并表示：“我们呼吁对AIGC领域立法，不是限制AIGC产业的快速发展。恰恰相反，立法有利于推动AIGC产业朝着健康、可持续道路上更快发展。”

曹二保以汽车产业为例进行横向对比，进一步阐明其观点：“AIGC产业是21世纪的朝阳产业，当前所处阶段类似20世纪早期的汽车产业，其产业发展路径有一定可比性。以美国为例，自1903年率先颁布世界第一部交通法后，该国汽车产业走上规范发展的道路，T型汽车、流水线生产模式、汽车生产巨头孕育而生，汽车产销量飞速上升，上下游制造业和消费市场快速发展，拉动配套产业共同进步，其模式得到各国效仿，其GDP增长亦得益于汽车产业蓬勃发展，经济体量后来居上位列全球首位。由此，率先对AIGC产业立法的国家不仅能得到各国的支持和效仿，本国相关产业也将得到空前发展，更有力推动本国经济体量跃升新台阶。”

编辑：林郑宏

声明：新华财经为新华社承建的国家金融信息平台。任何情况下，本平台所发布的信息均不构成投资建议。