强人工智能时代 : 机器共产，人类私产

鲤伴

【本文是我之前的《AIGC与版权刍议》一文想法的进一步发展。】
在可以预见的未来，必定会出现通用人工智能，即AGI，或者说强人工智能。AGI将有人类水平的智能，同时有机器般的高效率。因此它们既可以作为效率工具的AGI机器，也可以作为像人类一样的独立的智能体，不妨称之为拟人吧。那么作为机器的AGI和作为独立智能体的AGI应该分别具有什么限制呢？
作为机器的AGI可以拥有整个人类的经验和整个人类的知识，它们可以是全知型的，它们的传统对应物也许就是我们今天的ChatGPT。但是它们不能有独立的意识，也不能被赋予任何意义上的人权。同时，因为它们不能被赋予人权，因此它们也不能作为拥有产权的主体。
而且，因为它们是整个人类知识和经验的共同造物，因此它们的生产力应该属于社会共有，而不应该被任何私人独占。同时这也是因为它们的生产效率远超人类，其生产力如果被私人独占，那就会使得人类社会极大地失衡。
而在AGI另一个极端的拟人(他们通常可能是人类的数字分身)则可以被赋予某种版本的人权，甚至赋予一定的独立意识。同时作为限制的是，他们不能拥有超出个人之外的知识水平，也不能拥有超出个人之外的技能。否则，由于他们的高效率，他们就会完全取代人类的劳作，进而相当于把人类饲养了起来。
由于拟人可能具备某种人权，所以他们也可能具备某种产权。拟人的人权和意识通常是从真实的人类个体派生出来。因此他们的产权也应视为真实产权的派生物。总之，拟人是人类的派生物，属于广义上的人类。
值得顺便一提的是，由于AGI机器不具备任何意义上的人权，所以它们也没有最终选择的权利，尤其是没有选择人类未来的权利。最终的选择权利属于人类，当然拟人也可以具有某种派生的选择权利。
但是，仅仅这样的产权安排还不足以创造一个均衡的社会。因为仅仅这样的话就可能导致人人都尽力使用作为效率工具的AGI机器来生产，这样的社会虽然共产了，但人类也就沦为了废物。为了鼓励人类的劳作，而不是过度依赖于AGI机器。我们还有必要作出如下产权安排。
即，仅当人类（包括拟人）完全不依赖于AGI机器时，他才完全拥有其劳动成果的私有产权。而当人类使用AGI机器劳作时，则视AGI机器的参与程度，人类只能部分拥有成果的产权。AGI机器参与程度越深则产权就越公有。这样安排的理据也在于，个人的劳作当然完全由个人私有，但AGI机器的生产力则是共有的，因此不能被个人独占。
我用八个人概括以上对未来社会的构想: 机器共产，人类私产。
要强调的是，这里的机器当然不是指传统机器，而是AGI意义上的机器。最后，我再概括一下这八个字的基本含义，即: AGI机器的生产力应该共有而不是私有，人类的劳作则应该私有而不是共有。

好的世界

像chatGPT这样的大模型基本只能跑在中心式的计算集群里，由运营维护和提供算力的公司私有。最先出现的AGI很有可能也是类似的形式。个人认为如果没有分布式的算力基础和开放的维护社区，很难保证AGI的所有权为共有。

涨留住

我并没有说AGI本身的所有权需要共有，它可以私有，但是它的生产力得共有。也就是说拥有AGI的公司仅能就AGI的使用收取一定费用，而不能直接用AGI来生产内容，也不能就其生产的内容收费。

周博明

模型权重开源就好了，本来训练时用的数据集就是开源的，根据开源协议模型权重也应该开源

花不丸

之前看到一篇文章用lstm对bert做知识蒸馏，只下降几个点。那么chatgpt有没有可能用一个小模型模拟出结果

俞玉良

以后可能像个人电脑和手机一样出现个人AGI，处理个人接触到的信息。百科全书式的AGI未必能很好的适应具体场景。

妮妮安

ChatGPT做成百科全书包罗万象就小不了，减小知识面、使用私有知识更有效。 如果问题规模小到一个小游戏，2017年OpenAI已经做到从无到有演化出语言，而且实现language grounding即词汇跟实体语义对应（ChatGPT没有这个能力）。

冷逸客

ChatGPT对应于人“懂得很多道理却过不好一生”，language grounding模型把语言当过好一生的工具然后懂多少是多少。

九坪

放心吧，共产不了，AGI最后就和汽车一样，只是人得附庸，你只要管好电源发号施令就行了。个人拥有得物质和文化产品可能会变多，但贫富分化也会很严重，就像穷人依然消费不起汽车一样。