人工智能ChatGPT写智能论文——教授们应该担心吗?

刘惠亮

本文翻译自Nature文章AI bot ChatGPT writes smart essays — should professors worry?，以下内容均为Medpeer翻译结果，不代表本人观点。



在ChatGPT之后，教育评估可能需要重新思考。图源:Thomas Trutschel/Photothek/Getty

在超负荷工作、薪酬不足和发表论文的压力之间，学者们有很多需要担心的问题。现在又出现了一个新的问题: ChatGPT，一个人工智能（AI）驱动的聊天机器人，它可以根据用户的提示（包括家庭作业和考试风格的问题）创建听起来非常智能的文本。这些回复是如此的清晰，经过了充分的研究，并且引用得当，以至于一些学者称机器人为传统形式的教育评估敲响了丧钟。教授和讲师应该有多担心？
英国纽卡斯尔大学（Newcastle University）研究法律、创新和社会的莉莲·爱德华兹（Lilian Edwards）表示：“目前，这看起来很像是作为教育作业的论文结尾。”坦佩亚利桑那州立大学的新闻学者丹·吉尔莫告诉《卫报》，他给ChatGPT提供了一个他经常布置给学生的家庭作业问题，而ChatGPT的回应文章会为学生赢得一个好成绩。
ChatGPT是总部位于加州旧金山的人工智能公司OpenAI的创意。2020年，该公司发布了GPT-3，这是一种被称为大型语言模型的人工智能，它通过在数十亿字的训练数据中搜寻并学习单词和短语之间的关系来创建文本。GPT-3是人工智能革命的先锋，引发了关于其局限性的哲学问题，并推动了一系列潜在的应用，从总结法律文件到帮助计算机程序员。ChatGPT是在GPT-3的高级版本基础上进行的微调，并针对与用户进行对话进行了优化。
避开兔子洞
GPT-3相对来说比较冷静，像计算机一样，而 ChatGPT 几乎可以充当一个合作者，用户可以通过它来反馈想法。爱德华兹说: “从我看到的情况来看，这是非常好的，因为它不会像以前的 GPT-3那样跑进兔子洞。”。“我只是认为论文评估已经死了，真的。”
其他人不同意 ChatGPT 是这样一个游戏规则改变者，指出学生长期以来一直能够通过“论文作坊”将论文写作外包给人类第三方。伦敦帝国理工学院（Imperial College London）的计算机科学家、学术诚信研究员托马斯•兰卡斯特（Thomas Lancaster）表示: “如果学生知道去哪里找，他们不一定会增加很多以前不具备的功能。”。
兰卡斯特承认ChatGPT将所有内容都放在一个整洁的免费包中。但他认为，ChatGPT生成的论文将比论文工厂的产品更容易脱颖而出，因为它包含了没有实际说过的引用、通过错误假设创建的错误信息以及不相关的引用。
他说: “尽管‘人工智能’这个词被抛到了脑后，但事实上，这些系统并没有我们人类所认为的那种智能。”。“他们接受的训练是，根据他们以前看到的单词模式，生成一种单词模式。”
除了文章
新泽西州普林斯顿大学的计算机科学家Arvind Narayanan说，即使这是论文作为评估工具的终结，也不一定是件坏事。他说，论文是用来测试学生的知识和写作技巧。他说：“ChatGPT将很难把这两种形式结合成一种书面作业。”但是学者们可以通过修改书面评估来应对，优先考虑ChatGPT还不能做到的批判性思维或推理。他说，这最终可能会鼓励学生更多地独立思考，而不是尝试回答论文提示。
这有多必要取决于有多少人使用聊天机器人。第一周就有一百多万人试用。但是，尽管OpenAI称之为“研究预览”的当前版本是免费的，但它不太可能永远免费，一些学生可能会在付费的想法上犹豫不决。
这种情况让在英国牛津互联网学院研究技术和监管的桑德拉 · 沃克特既担忧又兴奋。“这种能力给我留下了深刻的印象，”她说。但她担心的是对人类知识和能力的潜在影响。如果学生开始使用 ChatGPT，他们将不仅外包他们的写作，而且外包他们的思维。
她希望教育机构能够适应。她说：“每当有新技术出现时，人们都会感到恐慌。”“学术界有责任保持一定程度的不信任--但我不认为这是一个不可克服的挑战。”
<hr/>PS：看到这篇文章我本也想去试用一下的，但是……居然提示所在国家不可用！

摩羯揭

啥玩应呀