(背景图片) Maxim Berg on unsplash
AI功能日愈强大,产出的文字或图像几可乱真,连AI工具自己都无法判断。OpenAI上周悄悄关闭了用以分辨AI或人类生成内容的工具,因为它做不到自己宣称的事。
今年2月初,OpenAI公布名为AI分类器(AI Classifier)的服务,用以辨别由人类编写或是AI生成的文字,以协助解决学生使用AI写论文或报告的欺骗行为。该公司宣称只要输入最少1,000个字元,约为150到250英文单字,这工具就能判断该文本是由人类编写还是AI产生。当时该公司说其模型判断AI生成英文文字的正确判读率为26%,错误判读率(将AI生成文字判读为人类所写)为9%。
不过上周OpenAI在当初宣布这工具的官方部落格上,以一小行声明公告,AI分类器已不再提供,原因是准确性太低。
但OpenAI并未放弃,开发小组已蒐集这工具使用半年来得到的反馈,目前正在研究更有效的文字判读技术,并将投入开发与部署协助使用者判断是否为AI生成的声音和视觉内容。
这也显示AI功能愈来愈强大,足以产生难以区分真假的AI内容。这也呼应了一份由史丹佛大学教授的研究结论。该研究发现,母语非英语的使用者撰写的英文文章,超过一半会被AI侦测工具误判为AI撰写的产物。