近日，“顶流明星在澳门赌博输了 10 亿”等AI假新闻的出现引发热议。用AI造假博眼球、赚流量，法律的边界在哪里？

本文刊于《中国妇女》杂志

近日，一则“顶流明星在澳门赌博输了10亿”的消息在互联网平台传播，引发网民热议和猜测，相关话题频繁登上微博热搜榜。然而经公安部门调查，这条消息是某网民为了博取流量，用AI软件生成的假消息。该网民被公安机关处以行政拘留8日的处罚。

随着人工智能技术的发展，用AI软件制造虚假信息，扰乱公共秩序的情况时有发生。通过该行为非法盈利达到一定数额，可能会面临刑事责任。上海市宝山区检察院就办理了一起“AI洗稿”生成假新闻案件，2025年1月23日，犯罪嫌疑人因犯非法经营罪，被判处有期徒刑。

发现谣言，警方锁定源头

2024年4月，一条内容为“上海某地惊现‘骨灰房’”的假新闻在网上广泛传播，文章除了耸人听闻的内容之外，还配有虚构的图片，让不少网友信以为真。上海警方在进行网络巡查时发现了这一舆情，经过核实，文章内容均系捏造。警方很快锁定了文章的发布者，居住在云南一个小县城的00后女孩王丽。

王丽向警方交代，2024年3月，她偶然间在一个群聊中，看到有位自称“老徐”的网友发布自媒体创业培训等信息，她立即回复对方，表示要参加培训。随后，她在对方指导下，在一家网络平台上注册了账号，摇身一变成了“自媒体”。

老徐告诉王丽，他每天会登录王丽的账号存入稿件，王丽点击发布即可。起初，王丽还会对存入草稿箱的稿件内容进行简单核实，随着稿子越来越多，她逐渐不再看内容，只管点击发送。王丽每天都会发布三四十篇稿件，而那条“上海某地惊现‘骨灰房’”的不实信息，正是“老徐”存入草稿箱内，由王丽点击发布的。

警方依据王丽提供的线索展开追查，抓获了一个经营洗稿发帖业务的犯罪团伙。据调查，这个自称“老徐”的人名叫徐杰，他和罗文、刘侃三人一起在2023年6月买下了一家信息科技公司，主要从事电商经营、视频剪辑等业务。

2024年1月，他们觉得公司收益太低，于是转型做起了自媒体。这一过程中徐杰发现，某家国内大型新闻平台有创作者激励机制，会根据自媒体博主的流量予以“流量奖励”，于是他动起了歪脑筋，编纂假新闻以获取流量。

为谋利益，AI造假近千条

如何将假新闻编得“又快又好”，又博人眼球呢？徐杰等人想到了AI软件。他们将网上搜到的新闻输入软件当中，并对AI下达改写指令：“标题要劲爆、结论要有争议、改写内容要博人眼球。”经过AI的编纂和改写，一条条内容猎奇的虚假信息诞生了。

为获取更多的平台流量奖励，徐杰等人以“自媒体创业培训”为幌子招募了一批学员，指导他们在某网络平台注册多个自媒体账号，将假新闻分发到学员账号的草稿箱内，由学员们进行发布。

截至案发，该团伙指使学员注册了1100余个自媒体账号，发布了诸如“三星堆遗址挖出航母、核潜艇”“英语退出高考”等AI假新闻近千条，非法获取平台流量奖励5万余元。

徐杰等三人分工严密。徐杰作为公司的实际控制人，主要负责招募学员、利用AI生成假新闻，并指导学员发布；罗文负责招募学员并指导他们注册账号；刘侃则负责为学员发放提成等。三名被告人到案后均如实供述了自己的罪行并退出违法所得。

经审查，上海市宝山区检察院认为，该犯罪团伙主要成员徐杰、罗文、刘侃三人违反国家规定，以营利为目的，编撰虚假信息并通过网络发布，扰乱市场秩序，情节严重，应当以非法经营罪追究刑事责任，遂对三人依法提起公诉。

2025年1月，上海市宝山区法院经审理认为，徐杰等三人的行为均已构成非法经营罪。法院对徐杰判处有期徒刑一年十个月，并处罚金五万元；对罗文判处有期徒刑一年七个月，并处罚金五万元；对刘侃判处有期徒刑一年六个月，缓刑一年六个月，并处罚金五万元。

王丽被另案处理，根据《治安管理处罚法》的相关规定，所在地行政机关对其实施了行政处罚。

治理“AI”假新闻有法可依

“AI洗稿”发布假新闻，可能触犯哪些法律法规？我国是否有适用于AI软件管理的规章制度？本刊记者采访了上海市宝山区检察院第三检察部副主任朱佳林、第三检察部检察官助理何伟。

Q：在本案中，三名被告人的“AI洗稿”行为为何构成非法经营罪？

A：依据最高人民法院、最高人民检察院发布的《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第七条，违反国家规定，以营利为目的，明知信息虚假却通过信息网络提供有偿发布服务，且非法经营数额达五万元以上或违法所得数额在二万元以上的，依据刑法第二百二十五条的规定，以非法经营罪定罪处罚。

Q：用AI炮制假新闻除了可能涉嫌非法经营罪以外，还可能承担哪些刑事责任或行政责任？

A：在刑事责任方面，首先，如果像本案的犯罪团伙一样，以营利为目的，商业化发布虚假信息，可能构成非法经营罪。其次，依据刑法规定，如果是编造虚假的险情、疫情、灾情、警情在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或其他媒体上传播，严重扰乱社会秩序的，可能构成编造、故意传播虚假信息罪。

另外，根据信息的内容、指向的对象、造成的后果不同，还可能构成寻衅滋事罪、侮辱罪、诽谤罪等。

在行政责任方面，依据《治安管理处罚法》第二十五条，散布谣言，谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的，处五日以上十日以下拘留，可并处五百元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款。

此外，《网络安全法》《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等也对禁止传播虚假信息等作出规定，炮制假新闻者可能受到相应的行政处罚。

在此也提示，在进行内容创作时，务必核实拟发布信息的真实性，确保信息来源可靠、内容准确无误且不侵犯他人权益。

Q：目前，我国是否有可适用于人工智能管理的法律法规或规章制度？

A：我国已经制定了人工智能管理法规。如自2023年8月15日起实施的《生成式人工智能服务管理暂行办法》规定，将对“生成式人工智能服务”实施分类分级监管。

自2023年1月10日起施行的《互联网信息服务深度合成管理规定》对利用深度学习、虚拟现实等新技术从事互联网信息服务中的深度合成服务进行规范，要求深度合成服务提供者落实信息安全主体责任，建立健全管理制度和技术保障措施等。