原创内容被标红、检测频现误判 AI检测论文是否靠谱?
近年来,随着人工智能技术的飞速发展,AI生成论文的能力越来越强,从简单的文本润色到完整的学术论文撰写,AI工具已经能生成逻辑清晰、结构完整的学术内容。这一现象引发了学术界和教育界的广泛讨论。
部分高校也提出要求,学生的毕业论文除了要通过查重外,还需检测AIGC(AI生成内容)工具使用情况。这意味着,若论文的AI生成率过高,学生可能面临重新修改、二次答辩甚至无法毕业的情况。但有学者和学生反映,自己经过田野调查撰写的论文,竟被检测系统判定为“高AI率”。如何避免AI检测论文造成的“误判”?
今年4月,江西某高校的大四毕业生杨同学,在某论文检测平台对论文查重,查重日期仅相距一天,在同一平台对同一文档的AI检测率却截然不同。此前AI检测通过了的内容却在次日“AI率”检测时被标注成疑似AI片段,导致AI检测率上升。
杨同学的投诉
杨同学:同一篇论文,我在4月7日去检测的时候,它(AI检测率)是达到10.37%,但在4月8日,由我老师上传系统的时候,检测突然就升到了27.54%。老师就需要把这篇论文再打下来,让我重新降重,然后再上传,还要我自费去查重。
杨同学告诉记者,学校对AI检测率的要求是15%以下。被标注AI内容的段落,实际为其原创,为了降低AI检测率,她不得不重新修改再次花钱检测。
杨同学:前面花了有200多元,现在又花了小100元,加起来可能就是小300元。必须把它标注成AI的字段,自己修改完之后再进行查重。我本身觉得重复率没有什么太大问题的,因为很多都是自己手写的,它确实会存在一个误判的情况。我纯手写的东西,包括我原文引用的东西,它都会标注成AI字段。
杨同学还告诉记者,某知名检测平台使用计空格的字符数计算方式进行论文查重,但使用每千字3元的标准收费,最终导致一万三千字的论文字数升至一万五千字,空格和标点符号所多出的两千字共计收费6元并不合理。此外,某平台大学定制版检测系统和大学生版检测系统不互通,导致本来一次检测,互通就可以解决的问题需要进行两次查重,需另外花费一笔检测费用。
记者搜索黑猫投诉发现,疑似不合理收费和AI检测误判的情况,并非个例。中国人民大学一位副教授也对媒体表示,其将刚刚完成的论文,提交至某学术论文检测平台,得到的结果令他哭笑不得。他发现,系统标红的“高度疑似AI生成”段落,是他们研究团队耗时3年扎根基层、追踪多个真实案例写成的内容。
中国人民大学副教授:其实我自己是试着玩,因为我们马上想投这篇论文。然后我又试了一篇我2021年已发表的论文,也是(AI生成率)高。我觉得查重是相对比较靠谱的,但是AI查重其实就有非常大的问题了。
这位副教授直言,AI检测工具不应成为判定论文学术性的硬性标准。记者在多个社交平台上,以“论文降AI率”为关键词进行搜索,发现有不少经验分享帖,还有一些应届毕业生在评论和留言中称,自己为了降低“AI率”花费达上百元。
四川某高校一名大四学生蒋笑(化名)告诉记者,学校对毕业论文AI检测率有明确要求,她和几位同学也都遇到了检测误判的情况。
蒋笑:因为我们文科大部分要引用古籍文献和资料,大部分可能表述稍微相似一点,或者有点排比句,它就会容易误判,如果是自己写的话,其实它看成AI的概率还是没有那么大,而且比较好改。如果降不下来,但是你认定自己写的话,可以跟学校申请,他们再判。
北京一家人工智能科创企业技术人员王志成对记者表示,AI检测出现误判是正常情况。
王志成:就是说靠谱不靠谱,我觉得很难用二元化的描述来分析,要求它的准确率是80%,我觉得它能满足,要是说95%,我觉得还不能,肯定会有一些错误的判断。AI的能力本质就是会发生一些误判。生成的过程中遇到它没有训练过的场景,它就会胡说八道。即使AI再发展,完全抹掉误判的概率很小,它一定会存在出现错误的情况的。
在王志成看来,AI检测论文的结果仅能作为参考,不管它的技术如何进步,都无法避免误判的可能。
王志成:它的结果作为一个参考,确实这种误判还是很有可能会发生的。特别像做科研,每个科研都是一个新的领域、新的数据,这些数据很大概率是之前模型没见过的,一定会出现比如说我写的课题是完全新的,以前的数据可能就没有,很容易发生误判。
清华大学新闻与传播学院和人工智能学院双聘教授沈阳也对中国之声表示,AI检测论文出现误判的情况,目前存在一定普遍性。
沈阳:有一定的普遍性,因为判定一篇论文是否来自AI,它的标准还是模糊的。主要是AI本身可以按照用户的需要来生成不同的语言风格、不同的语法结构、不同的语义内容。只要核心的意思在那里,它是可以不断地变化表现形式,所以AIGC的检测平台,如果碰到对提示词特别熟练的人的话,实际是很难检测出来的。
据记者了解,目前教育部门并未出台检测论文“AI率”的相关规定,一些高校在制定相关政策时总体持审慎态度。同济大学法学院互联网与人工智能法律研究中心主任张韬略建议,高校应避免将AIGC检测作为强制性毕业环节,而应更多关注如何引导学生合理使用AI工具,将其融入学习和研究过程中,培养学生与AI建立协同的智慧生态,注重培养学生的创新思维与能力。沈阳教授也认为,人类最终是要用AI来做研究的,但是现在还处于过渡期。
沈阳:大家还是按照传统的学术习惯来判定这个事情,但是如果AI的能力越来越强,人类最终会过渡到由人来提供创意,AI来做研究。对于人的学术能力的评价,未来会转变成一个人使用AI的能力,也就是人脑加智脑的复合智能的能力。目前短期内我们肯定还是按照原来的标准来进行,但是可能会鼓励部分学科、学者去做一些探索。
评论0
还没有添加任何评论,快去APP中抢沙发吧!