应对AI论文造假,不妨“以AI检测AI”

来源: 新民晚报
2024-05-24 06:05:03

  报道中值得注意的细节是,有代写团队成员向暗访记者表示,因为AI代写工具的出现,使得论文代写的门槛降低,甚至出现了“职高生用AI工具帮博士生代写论文”的现象。

  在AIGC(人工智能生成内容)工具出现之初,行业普遍认为人工智能将能够提升内容生产效率,但或许令人意想不到的是,AI工具暂时还没有来得及在严肃的学术研究生产中得到广泛应用,却率先成为了黑灰产业提高产量的工具。

  而要对抗“AI代写”的黑灰产,需要监管者更快升级技术工具,同时,建立更加严格的行业性规范。一方面,用“AI来检测AI”;另一方面,要对“AI工具如何使用”建立明确的标准。

  当前,国内外已经开始研发专门针对“AIGC内容”的检测工具。在部分内容平台上,已经开始对疑似“AI生成内容”进行了异常标注。从数据检测识别的逻辑看,这类AI造假内容的特征相对更加明显,通过对文本结构、用词与语言模型等进行检测,应当可以识别察觉出AI的创作痕迹。

  因此,在传统的抄袭查重系统之外,至少目前,可以尽早将针对“AI内容”的检测工具也应用到学术论文的检测流程之中,并对疑似AI造假的内容进行标注,辅助审核人员进行判断。

  在技术性防范手段之外,针对AI论文造假,学术界也可以迅速行动起来,为AI工具的应用设定清晰的边界。例如,可以使用AI辅助制作插图,但不得进行任何文本、数据生成。

  当然,随着AI被应用于检测预警 ,以及行业共同规范的建立与调整,AI造假的漏洞终将被迅速填平。从长期来看,人工智能仍然会是创新的朋友,而不是造假的同伙。

  □马尔文(媒体人)

  鸣谢:中国载人航天工程办公室

  昨天,扬子晚报记者在南京江宁太阳城万达影城发现,不少观众是来错峰补看电影的。市民卢女士和上初中的儿子慢悠悠地赶来,准备看《无名》。卢女士告诉记者,春节期间的电影票跟春运车票似的根本抢不到,走亲访友的间隙,想带儿子看场电影,每次都只剩下边边角角的座位,黄金时间段更是不要想,很多是满场,“春节时我们还来商场吃过饭,电影院门口都挪不动道儿,取票排长队,入场排长队,真是人声鼎沸得很。”

  <a target='_blank' href='/'>中新社</a>北京2月1日电 (记者 张素)中国最高人民检察院2月1日发布多名落马官员被公诉的消息,其中包括浙江省宁波市委原常委、鄞州区委原书记褚银良。

  这可能是一年之中为数不多的儿孙们推掉事务、放下手机、全身心和老人一同度过的时刻。

  <strong>真相:</strong>近日,一张落款为哈尔滨工程大学本科学院的“通知”截图流传网络。“通知”称,哈尔滨工程大学11号楼地下数十层内存放有数门“超电磁炮”,需对11号楼封闭处理。1月31日,哈尔滨工程大学官方微博对此回应称,网传通知为虚假信息,学校并未“存放有数门‘超电磁炮’”,也未发出相关通知。(来源:黑龙江网信办举报中心、澎湃新闻、哈尔滨工程大学官方微博)

  1日晚间,中国证监会就全面实行股票发行注册制涉及的《首次公开发行股票注册管理办法》等主要制度规则草案向社会公开征求意见。

杨呈祥

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有