AI技术跑得太快,监管措施急需紧紧跟上丨有一说一
□苏定伟
近日,湖北省大冶市人民法院审理利用人工智能(AI)技术撰写色情小说牟利案,网文作者柯某5个月获利两万多元,犯制作、贩卖、传播淫秽物品牟利罪,被判处有期徒刑十个月,并处罚金人民币五千元、退缴违法所得(湖北日报)。
这是利用AI写色情小说构成犯罪的首例判决,其风向标意义不言而喻。AI技术跑得太快,监管措施急需紧紧跟上。
春节期间,DeepSeek横空出世,如飓风扫过人工智能海洋。DeepSeek的狂欢尚未退潮,一款名为“Manus”的AI产品又刷屏了。3月6日凌晨,中国AI团队Monica.im发布了一款通用型AI智能产品Manus,距离DeepSeek官方上架时间刚刚40天。据称,Manus不仅能提供建议或答案,还能解决各类复杂多变的任务,直接交付完整的成果。
AI广泛运用于视频剪辑、文字、声音和图片处理。医生的处方、大学生的毕业论文、学生的美术作业、设计师的创意构想,甚至于网文创作,都开始使用AI技术。但,AI技术的使用边界在哪里?责任主体是谁?都没有清晰的界定,比如,用AI写成的论文,版权怎么认定?一些医院已经接入AI端口,医生利用AI开处方,出现问题后,患者是找医院、医生,还是找AI?
小米集团创始人雷军是“AI伪造”的“受害者”之一。2024年国庆节假期期间,短视频平台涌现出了大量以“雷军AI配音”为幌子的恶搞视频。雷军表示,“AI换脸拟声”的滥用成了违法侵权行为的重灾区,容易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为,甚至会造成难以挽回的形象和声誉损害,给社会治理带来风险,也对AI的监管和治理带来了较大的挑战。
AI一日千里,一路狂奔,法律法规和相应的监管措施急需紧紧跟上,以便其在正确的轨道上前行。今年全国两会期间,多位全国人大代表和政协委员呼吁,要启动立法研究并制定专门的人工智能综合性法律。
AI这么先进,为什么不用AI技术来监管AI使用呢!明明是网络“黄文”,AI不能自动阻止吗?大冶市人民法院这份判决为AI技术的合规使用敲响警钟,法官呼吁,相关部门应加强对AI技术应用的监管,明确技术使用的法律边界,鼓励将AI技术用于合法、健康的领域,推动技术创新与社会责任的平衡。
令人欣喜的是,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局已经联合发布《人工智能生成合成内容标识办法》,新规从今年9月1日起施行。办法规定,人工智能合成的内容将进行强制标识,方便大众识别并提高警惕性。
从DeepSeek到Manus,中国AI技术不断惊艳世界,我们要先行一步,探索出具有中国特色的监管措施。我们不仅要贡献AI领域的“中国技术”,更要为AI技术的监管贡献“中国方案”。