用ChatGPT写关于遥感的故事，被OpenAI自家鉴定器判定为“可能由AI生成”

2023-03-23 16:34:28 745

近期，我们会听到很多用ChatGPT 写文章的消息，如国外某博主通过ChatGPT写了一篇数据分析文章，获得了客观的收入，另也有部分期刊作者中出现了ChatGPT的名字。

同时，也有很多单位明确表示禁止使用AI写作，此时就有了一个问题：如何判定一篇文章是否为AI创作？

OpenAI 推出了文本AI鉴定器（https://platform.openai.com/ai-text-classifier）。虽然该工具对英文支持更好，但在这里我们也测试一下中文的使用效果。

这个工具将结果分为5个类别：

“非常不可能是 AI 生成”对应 <0.1 的分类器阈值
“不太可能是 AI 生成”对应 0.1 到 0.45 之间的分类器阈值
“不清楚是不是 AI 所写”对应0.45到0.9之间的分类器阈值
“可能是 AI 生成”对应于0.9 到 0.98 之间的分类器阈值
“很可能是 AI 生成”对应 >0.98 的分类器阈值

1、讲故事

首先，我们先用一个故事来测试，用ChatGPT写的故事：

还是挺有意思的，既有故事的趣味性，又体现了遥感和深度学习的特点，适合做科普。放入到鉴定器中：

可以看到，被识别成功：“很可能是AI生成“

2、说明介绍类

下面是两个说明、介绍类的文字。其中，关于深度学习的介绍被评为“可能是AI生成”, 关于Landsat的介绍则给出了不确定的结果。

（1）介绍深度学习的特点和发展历史

（2）介绍Landsat系列卫星

3、论文类

我们首先把人工写的论文手稿部分贴上：

对于人工写的论文，鉴别器认为“非常不可能是AI生成”。接着，输入ChatGPT生成的论文片段：

此时，鉴别器认为“可能是AI生成”

4、题外

除ChatGPT外，在OpenAI的平台上还有一些产品可以测试和探索，如Playground （https://platform.openai.com/playground）里面有GPT的一些早期版本和控制选项。

5、总结

可以看到，OpenAI推出的AI文本鉴别工具在一定程度上是有效果的，但有时也会给出模糊的结果。另外，目前该工具主要以英文鉴定为主，其他语言误差会偏大。

AI 在飞速发展中，其“创造“出的文字、声音、图像等很多达到了以假乱真的效果，因此鉴别起来也会存在困难。正如该平台所述”可以轻松编辑 AI 生成的文本以避开分类器。” 但相信在不久的将来，这一领域会有更加完善的行业规范。

免责声明：本文采摘自微信公众号慧天地，本文仅代表作者个人观点，不代表金航标及行业观点，只为转载与分享，支持保护知识产权，转载请注明原出处及作者，如有侵权请联系我们删除。