chatGPT/GPT-4微软报告154页pdf《通用人工智能火花：GPT ...

侑墨

下载链接：

英源论文----https://ask.qcloudimg.com/draft/8642415/na64oeidz2.pdf
             ----https://arxiv.org/abs/2303.12712v1
中翻译----https://ask.qcloudimg.com/draft/8642415/aooa3wz3ys.pdf





论文分为 10 个章节：第一章为总括部分；第二章介绍了多模态，主要和视觉生成内容相关；第三章代码，根据指令生成代码、理解现有代码；第四章数学能力；第五章与世界的交互；第六章与人类的交互；第七章判别力；第八章 GPT-4 局限性；第九章社会影响；第十章未来方向及结论。

2023年3月，在 OpenAI 发布GPT-4之后，微软随后发表了GPT-4的能力测评论文《Sparks of Artifificial General Intelligence: Early experiments with GPT-4》，论文一发布立刻引发业界轰然。
GPT-4 能力测评，部分能力甚至超过人类：文中对 GPT-4 进行了全面评测，通过测试微软的研究者证实：GPT-4不仅精通语言，还能无需特别提示在数学、编程、视觉、医学、法律、心理学和更多领域的新任务和难任务等多样化和高难度任务中表现出色，且无需特别提示。更为关键的是GPT-4在这些方面表现大幅超越ChatGPT等之前模型，并在所有这些任务上惊人地接近人类水平 ，也就是摸到了AGI的门槛。

一个最突出的例子，GPT-4满分通过了LeetCode上的亚马逊公司模拟面试，超越所有参与测试的人类，可以被聘用为软件工程师。
甚至论文作者Sébastien Bubeck的个人主页，几周前还充满理论机器学习和理论计算机科学内容，现在全删了，取而代之的是一篇简短宣言：“全面转向AGI研究”。在职业生涯的前15年，我主要从事机器学习中的凸优化、在线算法和对抗鲁棒性研究…… 现在我更关注大型语言模型中智能是如何形成，如何利用这种理解提高模型性能，并可能迈向构建AGI。 我们的研究方法称作“AGI的物理学”（Physics of AGI）。
例如，为了测试模型将艺术与编程相结合的能力，该研究要求 GPT-4 用 javascript 写一段代码，以生成康定斯基风格的随机图像，下图第一张为 Wassily Kandinsky 创作的，第二张和第三张分别由 GPT-4 和 ChatGPT 生成的：


你还能要求GPT-4用ABC记谱法生成和修改曲调(GPT-4甚至用ABC记谱法创作音乐，并按人类要求修改。)
如果说会编程-会画画对AI来说已不算太稀奇，那么GPT-4与ChatGPT在与人类交互、与世界交互上表现的差距更能说明问题。给一段两个人吵架但其实涉及4个角色的对话，GPT-4能够准确指出吵架中的Mark是在表达对另一方Judy态度的不满，而ChatGPT错误地以为Mark是在为谈话中第三人的不当行为做辩护。
接下来是模拟执行任务，让GPT-4根据自然语言指令去管理一个用户的日历，GPT-4可以先自己列出自己需要的API工具，再在测试场景中使用它们。
即使把场景从计算机世界换成物理世界，GPT-4也可以一步一步指导人类排查开了恒温器屋里还是冷到底是什么设备出了问题。
更令人惊奇的是，其前端/游戏开发能力也惊人。该研究让GPT-4用JavaScript在HTML中编写3D游戏，GPT-4在零样本的情况下生成了一个满足所有要求的游戏。
GPT-4可被视作AGI （通用人工智能）的早期版本

此外，文中也也指出AGI具有推理、规划、解决问题、抽象思维、理解复杂思想、快速学习和经验学习能力。「GPT-4初具AGI雏形」的观点被首次提出。颇具盛名的微软雷蒙德研究院机器学习理论组负责人万引大神 Sébastien Bubeck联手2023新视野数学奖得主Ronen Eldan、2023新晋斯隆研究奖得主李远志、2020斯隆研究奖得主Yin Tat Lee等人，将“GPT-4可被视作AGI （通用人工智能）的早期版本”这句跨时代的话写进论文结论部分。他们认为「鉴于 GPT-4 能力的广度和深度，我们相信它应该被合理视作一个通用人工智能（AGI）系统的早期（但仍不完整）版本」。微软还表示，「本文的主要目标是对 GPT-4 的能力和局限性进行探索，我们相信 GPT-4 的智能标志着-计算机科学及其他领域的真正范式转变」。
另外有趣的是-有读者发现在未删减版的论文中，GPT-4实际上也是该论文的隐藏第三作者，内部名称 DV-3，后被删除。据 Paper with Code统计，这篇论文是最近30天内关注度最高的AI论文，没有之一。值得一读。一篇论文有这么多大佬排队转发的盛况也非常罕见。还有人从LaTex源码中扒出，论文原定标题其实是《与AGI的第一次接触》，注释还写着“编辑中，不要外传”。

参考文献：154页微软报告中文版下载(百度搜索)

微软GPT-4报告！154页pdf《通用人工智能火花：GPT-4早期试验（Sparks of Artifificial... ）》源论文&中文翻译文件
GPT-4满分第一名通过大厂模拟面试！微软154页研究刷屏：与AGI的第一次接触 - 腾讯云开发者社区-腾讯云
[1]http://sbubeck.com
[2]https://twitter.com/nearcyan/status/1639029957702590464
[3]https://arxiv.org/abs/2303.08774