OpenAI正在研发一款工具，旨在识别ChatGPT是否被用于撰写学术论文或研究报告，但由于内部的争议以及对用户反馈的顾虑，该工具尚未正式推出。《华尔街日报》报道称，这款工具能够以99.9%的准确率检测出由ChatGPT生成的文本。
令人意外的是，报告指出OpenAI的反作弊工具已经准备了一年之久，但由于内部讨论的延误，发布进程被推迟。该公司在保持透明度与吸引用户之间面临两难局面。OpenAI甚至对用户进行了调查，发现近三分之一的ChatGPT忠实用户对这项技术表示反对。另一个引发关注的问题是，该工具可能会对非英语母语的用户产生不公平的影响。尽管该工具在技术上具有很大潜力，但公司仍在权衡风险并考虑其他方案。一些员工认为，这项技术的优势超过了潜在的担忧。
这个工具的工作原理是什么?
反作弊工具采用了一种水印技术，通过巧妙地调整文本生成过程中的令牌选择，形成一种隐形模式，OpenAI的技术能够检测到这一模式，并对文档是否由ChatGPT生成进行评分。据报道，当生成的新文本量足够时，水印的有效性可达到99.9%。
人们担心，水印可能会通过翻译或添加、删除表情符号等方式轻易去除。此外，确定谁有权使用该检测工具也是一个难题。限制访问可能会降低其有效性，而过于广泛的访问则可能危及水印技术的安全性。
教师和教授们迫切希望拥有工具来打击教育领域中对人工智能的滥用。根据报告，一项调查显示，59%的初中和高中教师认为学生已经在作业中使用了人工智能。尽管存在这种需求，OpenAI对反作弊工具可能对用户体验和公平性造成的影响持谨慎态度。其他公司如谷歌(Google)也在开发水印工具，例如谷歌的SynthID，目前正处于测试阶段。OpenAI优先考虑音频和视觉水印而非文本水印，因为它们的影响尤为显著，尤其是在选举年。OpenAI面临内部辩论，并进行了调查以评估公众对该工具的看法。虽然一些数据显示公众支持，但仍有人对虚假指控和对ChatGPT表现的潜在影响表示担忧。OpenAI继续探索争议较小的替代方案，并努力与公众舆论及潜在的人工智能透明度新法律保持一致。
本文来自作者[svs]投稿，不代表立场，如若转载，请注明出处：http://nelsonebo.net/post/7689.html
评论列表（4条）
我是的签约作者“svs”！
希望本篇文章《OpenAI有一个工具可以检测chatgpt编写的文本，准确率超过99.9%》能对你有所帮助！
本站[]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： OpenAI正在研发一款工具，旨在识别ChatGPT是否被用于撰写学术论文或研究报告，但由于内部的争议以及对用户反馈的顾虑，该工具尚未正式推出。《华尔...