下一个时代的人工智能-下篇

海森林

这篇文章是OpenAI CEO Sam Altman（下文标注Sam）在9月13号接受美国著名风投基金Greylock合伙人Reid Hoffman（下文标注主持人）采访时的对话。

首先这篇文章是我的转述，不是翻译。翻译讲究信、达、雅，但是这篇文章是一篇对话的文字稿，如果完全照翻会严重影响阅读体验，我希望传达讲话人的思想，同时降低理解的难度。

第二，对话中有大量的概念和引用，为了方便阅读，我对很多概念做了不改变原有意思的转述。有一些必须要引入的重要且/或新颖的概念，我都在文中做了解释，在最后列了参考资料。

第三，转述这篇文章的初衷是我认为Sam和OpenAI是人工智能行业的先行者，也是少数在科研之外，从商业模式、信息安全、社会环境和道德伦理角度思考问题的人。这篇文章覆盖了对话中笔者认为非常有价值的十六个问题。这些问题尚无定论，但是在寻找答案的过程中一定会让你受益良多。

问题包括：


1. 这些基于基础模型API的公司，他们的商业机会是什么？

2. 这些使用OpenAI提供的API的创业公司应该如何打造自己的竞争力？

3. 最令人惊叹的AI应用？

4. AI是如何帮助基础科学研究人员的?

5. 什么是对齐问题（Alignment problem）？

6. 从未来几年的演变来看，人们应该关注的AI领域的登月计划是什么？

7. 大家在讨论AI的时候比较不切实际的，更偏幻想的想法有哪些？

8. AI未来会如何同各行各业融合？

9. AI和元宇宙的关系？

10. GPT3如何帮助生命科学加快研发迭代速度，影响生命科学研究更快发展的“限速器”是什么？

11. 普通用户如何同这些大规模基础模型做交互？prompt engineering会是一个专门的岗位吗？

12. 你怎么理解AGI？

13. 未来20-30年可能会出现的社会问题？

14. 关于OpenAI在做的UBI的实验？

15. 人工智能辅助人创作和人工智能自己创作之间的界限在哪里？

16. 一个做大语言模型的创业公司如何脱颖而出？

这是系列文章的下篇，上篇请看【下个时代的人工智能-上篇】
<hr/>主持人：
最后一个媒体热点，关于元宇宙。
Sam：
我觉得AI和元宇宙，每一个概念本身都很酷，除了AI会为所有的计算带来影响之外，AI会给元宇宙带来什么变化我并不清楚。
主持人：
当然计算、仿真环境，虚拟人、娱乐、肯定包含教育，类似于AI教师这种，这些算是元宇宙的最容易些想到的应用吧。你能想到别的什么吗？
Sam：
我觉得未来元宇宙发展的上限可能会变成iPhone一样量级的软件平台，一个新的计算交互平台。而人工智能算得上是一个技术革命。所以他们的关系更有可能是元宇宙如何在AI世界中发挥作用，而不是反过来。不确定，但这是一个好问题。
观众提问：
你觉得类似gpt3这样的基础性技术会如何影响生命科学的发展，尤其是医学研究，gpt3怎么帮助加快研发迭代速度，你觉得影响生命科学研究更快发展的“限速器”是什么，或者说是某种我们无法逾越的自然规律。
Sam：
我觉得现有的模型是不够好的，不能这个领域发挥大的作用，这是很多生命科学研究人员跟我说的。他们看了gpt3能做的事情，觉得在某些情况下有一点帮助，比如说在基因组方面。但是我觉这些都会改变。
生命科学是一个未来有机会看到千亿甚至万亿美金的公司的领域之一，这样的领域非常少。但是如果你真的可以做到比现在的制药公司好几百倍， 那会是一个翻天覆地的变化。
你也提到了“限速器”，这些生物公司有他们自己要做的事情，比如说临床实验等等，可能需要花挺多需要花的时间，但是我觉得这些恰恰是最有意思的可以改善的地方。
你知道我见过最有意思的合成生物学公司，是找到了一个方法可以让这些周期大幅度降低。这些大大促进了AI在这个领域发展，
现状是AI可以生成很多好的想法，但是你还是要花很长的时间去测试。我坚信，作为一个创业公司来，你要追求低成本快速迭代。如果你做到了，你就会战胜那些大但是效率低的公司。所以我不会选治疗心脏疾病最为第一个创业领域，而是生物合成，听起来不错。
另一件事情其实是现在的仿真器还是太烂了，如果我现在在做一个生物AI创业公司，我肯定会试着去解决这个问题，
主持人：
你觉得什么时候AI才会帮助让这些仿真器越来越好，类似自我迭代？
Sam：
我知道有很多聪明人在着手解决这个问题。我不是太清楚。
观众的提问：
你认未来普通用户和这些大规模基础模型之间的交互是什么样的， 是会有更多垂直领域的创业公司做垂直领域的模型适配和微调，还是说每一个公司都会用基础模型，并且提示工程（prompt engineering）会变成一个每一个机构都有的岗位？

注：这里面prompt engineering指的是在跟基础模型交互的时候（文字或者图像生成），你有时需要把任务以模型能够处理的方式进行描述，作为模型的输入。这个中间“翻译”或者说“转述”的过程，体现了对于数据和模型的理解，就被称为提示工程（prompt engineering）。

Sam：
不，我认为提示工程不重要，未来通过文字或者通过语音来进行交互的方式会被集成到各个地方，你可以让机器做你想做的任何事情，图像生成等等。
未来你可以跟机器说，帮我去做这项复杂的研究的事情，或者就跟机器说当我的心理治疗师，或者说帮我操作我的电脑做这件事情，或者任何一项事情。基础的界面一定是自然语言， 机器可以很好地理解你在说什么，如果只是在提示最后加上一个非常傻的magic word，然后以是否知道这个magic word来作为工作好坏的标准，这实在是太蠢了。
主持人：
我想接着这个话题再深入聊两句，从某种程度上来说，就像人有不同的擅长的智慧领域，比如说在使用dalle上（openai的一个图像生成模型），有些人就是视觉思考者，他们知道怎么一遍遍的迭代，生成更好的图像。难道不会有人会更擅长专门研究如何去跟dalle沟通吗？
Sam：
你说的肯定会发生，但是我希望不是在提示的最后加一个magic word，就有天壤之别。
最重要的还是你想法的质量，和对你想要的东西的理解。未来的艺术家仍然会比普通人在图像生成的任务上表现得更好，但并不是因为他们知道如何在提示的最后加上某一个magic word，而是因为他们的想象力，和他们知道如何精确地描述他们想要什么， 视觉思考，眼界、迭代等等。
观众的提问：
AGI这个词被滥用了，你是如何思考通用人工智能（AGI）的？

注：通用人工智能，Artificial General Intelligence（AGI）

Sam
我觉得AGI有很多定义，对我来说，AGI基本上相当于一个中等水平的人，你可以雇佣作为一个同事，你可以让他做任何可以让远程同事做的事情，比如说在电脑上做的事情，这包括学习成为一个好的医生，或者是一个好的码工，一个中等水平的人能做的事情非常多。
我觉得对于AGI的能力来说，不存在一个特定的里程碑（做到了就代表AGI），而是机器能够学会解决问题的元技能，并对哪些东西能够解决问题有一个准确的判断。
而超级智能就是，它比全人类加起来还要聪明。
观众的提问：
未来20-30年可能会出现的社会问题？
Sam:
显然，AI对于经济的影响是巨大的，如果还是像今天的社会一样，有些人很有钱而其他人则不然，我觉得社会不会容忍这样的事情发生。
我们需要弄清楚这么多的经济活动何时会被AI颠覆，新的社会契约是什么。我们要考虑的几个关键问题包括：1. 我们该如何公平地分配财富 2. 对于AGI系统的访问权（AI世界里面的大众消费品）3. 治理，就是我们如何集体决策AI能做什么不能做什么。
我认为搞清楚这些问题会带来非常大的价值。我很有信心，大家花时间在这些问题上，一定会收获良多的。我觉得大家今天的担忧有点儿蠢，可能有不同的做法，但是最后问题总可以解决。我觉得财富、治理和访问的概念都会发生变化，我们如何解决这些问题将会非常有价值。
主持人：
你们做了很多研究，关于这方面的不知道你可以透露多少，但是openai，为了研究这些问题，启动了一些研究计划。
Sam：
是的，我们在做一个全世界最大的全民基本收入（UBI）的试验，我们有一个五年的计划，还有1年半结束，我觉得这不会是唯一的解决方案，但是我认为会是一个很棒的事情。

注：Universal Basic Income（全民基本收入）UBI 提倡国家应该为普通大众提供“无条件的”基本收入，即不论贫富、年龄、性别、健康与否，所有人均可享有同等数额的基本收入，以保证人们的基本生存。Sam认为未来AI会给每一个人带来13500美金/年的收入。我觉得我们还应该要做10件类似的事情，我们也从受影响最大的群体里面获取了很多的意见，看看怎么更早地改善，也在探讨这项技术如何重新培养那些受到影响的人。

观众的提问：
今天的AI大多是一个给创作者使用的用来加强创作的工具，你觉得AI作为一个辅助工具和AI可以独立创作之间的界限在哪里？
Sam：
我觉得现在这些用于创意的工具，在短期内，作为一个伟大的工具，大家喜欢，有价值。我认为至少我们目前看到的情况，AI并不是取代，而是增强。我觉得我们会看到这个趋势持续很长时间，然后最终，可能是100年之后，机器完全不需要人可以做创造性的工作。
有意思的点在于，如果你问10年前的人，AI将会影响人们的生活？大多数的人会非常有信心的说，先是那些蓝领工人的工作，接下来是低技能的白领的工作。接下来是那些非常高技能的白领的工作，高智商的工作，程序员或者别的什么。最难的可能就是取代创造性的工作，可能永远都不会。
但实际情况，AI走了另一条路，这是一个有意思的提醒，关于预测未来是一个多么困难的事情，更具体的来说，我觉得我们自己都不知道什么技能是容易或者困难的。哪项技能使用了非常多的大脑的能力，哪项技能没有。
观众的提问：
你说你觉得创业公司不应该做大模型，为什么？
Sam：
我觉得可以有大规模语言模型的创业公司，因为他们可以用基础模型来训练自己的领域模型，然后想办法启动数据上的飞轮效应，当然开始的时候可能得想办法先通过提示工程来利用基础模型，建立起他们初步的优势。

（对话完）


参考资料

• Greylock对话原文链接
  

https://greylock.com/greymatter/sam-altman-ai-for-the-next-era/
2.  Sam Altman关于UBI的思考《Moore's law for everything》
https://moores.samaltman.com/

刘玲娜

站位支持