原标题;

市政协“深聊会”聚焦“生成式人工智能发展与管理”

AI+政务需预防隐私泄露风险

面对发展迅猛的人工智能，如何在用好AI的同时对其进行有效的监管？近日，深圳市政协文化文史委以“生成式人工智能发展与管理”为主题，邀请政协委员、专家学者举行“深聊会”，围绕生成式人工智能生成内容和图像对传统的内容生产管理构成的挑战，在完善相关法律法规、政策制度、应用规范、伦理准则、技术监测、风险预警等方面提出前瞻性的思考。

版权概念或将因AI改写

AI生成内容（AIGC）到底算不算“作品”？作品被当成免费“饲料”投喂给AI，版权该怎么保护？AI生成内容版权归谁？

“深聊会”首先从AIGC的属性和版权问题开聊。

市政协委员、深圳市作家协会副主席兼评论家协会副主席于爱成认为，从文本独立性角度看，他倾向于AIGC算作品。但他也指出，目前对于AI“作品”仍有诸多疑问待进一步梳理和研究。

市政协委员、深圳报业集团法务部主任、市版权协会副会长申应东表示，依靠AI，一个博主一个人可以运营多达二三十个账号，一天产生1000多条推文，这样的行为是不是创作、算不算作品，目前很难界定。同时他也提出，当前版权概念是基于文字出版时代，在AI时代应该会被改写。

在市政协委员、广东微众律师事务所主任黄德华看来，AIGC是新生事物，不能用现有的版权概念去评价，对于AIGC的版权保护或者运用，需突破传统思维，构建新的规则体系。

“AI时代，未来的版权保护是不是也会转化为数据思维，也就是所有投喂原创物料，都需要按次付费。”市政协委员、中国银行深圳中心区管辖支行党委书记、行长林华明提出新的思考。

应该为AI+政务上好“紧箍咒”

今年以来，多地政府部门在“AI+政务”上有了诸多尝试。深聊会主持人、市政协委员、福田区融媒体和网信中心主任余治国认为，面对百万级别居民的诉求，以人工智能方式实时收集，然后又分配指令给相应的政府相关部门，这样的模式对未来政府管理可能带来革命性的变化。

但AI在政务领域应用过程中，却存在隐私泄露等风险，不仅威胁公民个人权益，也可能影响政府公信力和政务系统稳定运行。

与会委员和专家学者认为，应该为AI+政务上好“紧箍咒”。在法律层面，应完善相关法律法规，明确数据收集、使用、存储规则，加大对违规行为处罚力度；在技术层面，研发加密技术保护数据传输和存储安全，利用AI技术监测和预警隐私泄露风险；在管理层面，建立数据安全管理体系，规范人员操作，加强员工数据安全培训。

为AI教育设边界立规矩

AI既能帮忙写作业，也能帮忙批改作业，如何给聪明的技术立规矩来避免教育上的滥用？如何守住教育“以人为本”的温度？

“深聊”中，市政协常委、文化文史委主任尹昌龙认为AI若过度代劳学生作业等学习任务，会使学生失去自主学习和思考机会，不利于其心智成长。他建议，要设立AI在教育领域的使用边界，避免其过度侵入导致学生失去学习兴趣和生活热情。

黄德华认为，AI在教育领域的应用是必然趋势，应引导学生利用AI 构建主体性思维，培养千人千面的个性。

香港科技大学（广州）人工智能学域副教授岳玉涛则认为，应当为AI在教育中的运用立规矩，如在学术研究中使用AI需作声明，考试中要保证使用规则公平一致等。

AIGC应配水印“身份证”

当前，越来越多的AI诈骗案例引起社会关注。

荣耀终端股份公司安全技术专家邓太生表示，AI通过模拟声音、人脸增强了人们对它的信任感，从而使得受众上当受骗的概率大了很多。在这种情况下，只能用“魔法打败魔法”，用AI打败AI。比如利用AI帮用户检测预警来电是不是用AI技术合成，包括声音识别和视频内容识别。

“技术上可采用加水印等手段，在生成图像、视频的算法中加入人眼不可见但算法易检测的水印，以便追踪和识别AI生成内容，配合法规要求算法应用必须备案，从技术和法规结合角度保障安全。”岳玉涛建议。（记者 周元春）