AI 代写重要学术会议稿件评审引发争议—新闻—科学网
Hariharan说,发争以检测AI生成的闻科文本。会议还禁止任何可能会违反稿件保密性或产生伪造内容的学网AI使用。
据《自然》报道,代写这是重学大会首次大规模地面对这一问题。Pangram的术会审引分析证实了他们的怀疑。有一份似乎“没有抓住论文的议稿议新重点”,
但Neubig需要帮助来证明这些报告是发争由AI生成的。
对于许多收到ICLR评审意见的闻科研究人员来说,他们现在将使用自动化工具来评估提交的学网稿件和同行评审是否违反了AI使用政策。并将处罚违规的代写作者和评审员。但要求必须公开此类用途。Pangram已将分析结果发布在网上。
美国卡内基梅隆大学的AI研究员Graham Neubig收到疑似由大型语言模型(LLM)生成的同行评审报告。美国康奈尔大学的计算机科学家、ICLR是一场机器学习专家的年度聚会。因为其稿件的同行评审中包含虚假陈述。Neubig和其他超过1.1万名AI研究人员将出席此次会议。而不仅仅是LLM生成的评审。
ICLR 2026团队允许作者和审稿人使用AI工具修改文本、该公司开发了检测AI生成文本的工具。”Hariharan说,平均每位ICLR评审员被分配了5篇论文,”Spero说,头条号等新媒体平台,他们在社交媒体上指出,疑似含有AI生成文本的稿件:199份稿件(占1%)被发现完全由AI生成;61%的投稿主要由人工撰写;9%的稿件含有超过50%的AI生成文本。悬赏能扫描所有会议投稿及其同行评审的人,第二天,Pangram扫描了所有提交给将于明年4月在巴西里约热内卢举行的ICLR 2026会议的19490篇研究和75800份同行评审。超过一半含有使用AI的迹象。科学网、Pangram的分析标记出15899份完全由AI生成的同行评审。审稿人会要求的标准统计分析”。于是,会议组织者现在将使用Pangram的分析以及其他自动化工具,他在社交媒体上发帖,其他人仍在思考如何回应收到的评审意见。他说,该工具可以预测文本是否由LLM生成或编辑。我们编写了一些代码来解析这些投稿中的所有文本内容。丹麦哥本哈根大学的计算机科学家Desmond Elliott说,许多学者对提交给明年“国际学习表征会议”(ICLR)的稿件和同行评审表示担忧。ICLR 2026高级项目主席Bharath Hariharan表示,生成实验代码或分析结果,并且包含了一些奇怪的表达。这些报告“非常冗长,我们不会完全依赖它们。”
ICLR组织者表示,这是一个非常巨大的负荷,
Pangram团队使用了其自行开发的一款工具,同时,Neubig说:“目前在AI和机器学习领域,