今天的人工智能有多聪明，人工智能会发展到什么程度，什么样的人工智能会超出人类的控制甚至威胁人类？要回答这样的问题，我们可能需要澄清不同层次人工智能的几个基本定义。

一、弱人工智能

弱人工智能。又称限制人工智能或应用人工智能。毫无疑问，我们今天看到的所有人工智能算法和应用都属于弱人工智能的范畴，AlphaGo是弱人工智能的最佳例子。虽然AlphaGo在围棋领域超越了人类的顶级球员，但它的能力仅限于围棋。一般来说，由于弱人工智能功能的局限性，人们更愿意将弱人工智能视为人类工具，而不是威胁弱人工智能。

二是强人工智能

强人工智能，又称通用人工智能或完全人工智能，是指能够胜任人类所有工作的人工智能。强人工智能可以做任何人能做的事。这个定义太宽泛了，没有量化的标准来评价强人工智能的研究人员对什么样的计算机程序提出了很多不同的建议。最受欢迎和广泛接受的标准是我们之前详细讨论过的图灵测试，但即使是图灵测试本身也只关注计算机和人类之间的行为。从观察者的角度来看，不可区分性并没有提到计算机需要具备哪些特定的特征或能力来实现这种不可区分性。一般认为，一个可以称为强大人工智能的程序可能需要具备以下能力：第一，推理、使用策略、解决问题、决策能力；第二，知识表达能力，包括常识知识表达能力；第三，规划能力，第四，学习能力，第五，使用自然语言沟通能力，第六，整合上述能力，实现既定目标。
基于以上对能力的描述，我们大概可以想象一个具有强大人工智能的计算机程序会表现出什么样的行为特征。一旦实现了符合这一描述的强大人工智能，我们几乎可以肯定，所有的人类工作都可以被人工智能所取代。

强人工智能的定义存在一个关键的专业问题：强人工智能是否有必要具备人类意识？一些研究人员认为，只要具有人类意识的人工智能才能被称为强大的人工智能。其他研究人员表示，强大的人工智能只需要有能力胜任人类的所有工作，而不一定需要人类意识。也就是说，一旦涉及到意识，强大人工智能的定义和评价标准就会变得极其复杂，人们对强大人工智能的担忧主要来自于此。

第三，超人工智能

假设计算机程序比世界上最聪明的人类更聪明，那么由此产生的人工智能系统可以被称为超人工智能。牛津大学哲学家、未来学家Nick.Bostrom在他的《超级智能》一书中将超人工智能定义为科学创造力、智慧和社会能力等方面比最强的人脑聪明得多的智能。显然，对于今天的人来说，这是一个只存在于科幻电影中的想象场景。与弱人工智能和强人工智能相比，超人工智能的定义是最模糊的，因为没有人知道超越人类最高水平的智表现出什么样的能力。首先，我们不知道什么样的智慧形式比人类更强大。现在谈论超人工智能与人类的关系不仅是为了过早，而且根本没有讨论对象可以明确界定。其次，我们没有办法也没有经验去预测超人工智能是不现实的幻想还是未来必然的结局，也就是说，我们无法准确推断计算机程序是否有能力实现这一目标。
显然，如果公众担心人工智能是否会挑战和威胁人类，公众所担心的人工智能基本上属于这里所说的强大的人工智能和超人工智能。