Tim Urban在Wait But Why这篇关于人工智能的巨大文章中解释了这一点,所以我在这里引用他的话:“一只黑猩猩可以熟悉一个人是什么,一座摩天大楼是什么,我永远无法理解摩天大楼是由人类建造的,“他写道。 “即使机器试图向我们解释它,我们也永远无法理解(超智能AI)可以做的事情 - 更不用说自己动手了。它可以尝试多年来教会我们最简单的知道它的知识,并且努力将是无望的。“
7.没有这种“邪恶”的人工智能
与我们在科幻和电影中看到的相反,人工智能不可能是邪恶的。这是一个人的概念。一个人工智能可以做出无法形容的可怕事情,但它并不是出于纯粹的邪恶 - 它只是因为这是它被编程(有意或无意)做的。 Stephen Hawking最近在Reddit上的AMA上解释了这个概念。 “一个超智能的人工智能在完成目标方面非常出色,”他说,“如果这些目标与我们的目标不一致,我们就会陷入困境。”
8.超智能人工智能有三种方式可以工作