孙富春现任清华大学计算机科学与技术系教授、博士生导师，清华大学学术委员会委员，研究领域包括机器人的主动感知、认知计算与灵巧操作等。他还是IEEE Fellow，担任中国人工智能学会常务理事、中国自动化学会常务理事、清华大学计算机科学与技术系学术委员会主任、智能技术与系统国家重点实验室常务副主任等职务。
孙富春教授对人工智能的发展路径、物质基础以及未来发展有过深入思考，让我们一起来了解。
人工智能发展的四个阶段
1
孙富春提出过人工智能发展的“四阶段论”：
第一阶段是“不知道自己不知道”，人工智能的边界还不是很分明，凡是从事过符号智能、计算智能、机器学习、机器感知、行为智能及其应用的人，都是人工智能专家，属于“无知者无畏”；
第二阶段叫“知道自己不知道”，随着人工智能的不断发展，其边界愈发清晰，高级的人工智能技术应该能达到“知道自己不知道”，对社会和军事充满敬畏。
第三个阶段叫“不知道自己知道”。如果人工智能真的“不知道自己知道”，那结果将是可怕的。人工智能的发展必须用国家行为来进行，必须加以大力发展和研究。
最后一个阶段叫“知道自己知道”，这是人工智能的终极目标。人工智能是人类用来为自己服务的，它的目标应该是使我们的生活更加美好。孙富春认为，当前的人工智能是以大数据和深度学习为代表的弱人工智能，未来会出现强人工智能，这会是更接近于人的智能。人工智能的最高形式则是碳智能和人机混合智能。孙富春还指出，人工智能时代一个最重要的特点是人和机器共生。过去人和机器的关系是单向的，机器是“奴隶”，百分之百服从人类。但在人工智能时代，人和机器的关系是双向的，机器是“伙伴”， 它具有感知、学习、推理和决策能力，既要服从人类，同时人的决策会受到机器的影响。如此一来，对于人给出的一些命令，机器可能会提出不同的观点。
不是很清楚这里的发展的四个阶段。
第一个阶段，“不知道自己不知道”，此处的“自己”是指人类，是文章里的“人工智能专家”？
第二阶段，“知道自己不知道”，此处的“自己”是文章的“人工智能技术”，所以说的是“人工智能”？
第三个阶段，“不知道自己知道”，此处的“自己”，是文章的“人工智能”？为什么会产生可怕的后果？
第四个阶段，“知道自己知道”，此处的“自己”是文里的“人工智能”？
而且，不仅“自己”指的是谁不太清楚，还觉得究竟要“知道”些什么？
最后一个阶段，人工智能的最高形式是碳智能和人机混合智能，意思是人工智能也会拥有跟生物一样的身体吗？人机共生？这个，是把人工智能当作人所不能控制的其它对象来看待，人所不能预测人工智能的行为而需要与人工智能协作共同生活吗？
还有，对于人的决策会收到人工智能数据输出的影响，我持赞成意见。但是，说对于人给出的一些命令，机器可能会提出不同的观点，然后，当机器提出不同的观点时，决策人是哪一方？说是伙伴，要共生，那还需要一个公正的决策者吗？
总的来说，不知道是不是自己太抠字眼了，觉得这一段，把人工智能的地位抬得很高，机器确实是能做到很多人类做不到的事情，但是在生物界，老虎也比人类力量大，但是可以在某种程度上说，人类可以控制住老虎而不受其害。
机器是否真的能发展到这么高的程度，以至于人类要与其共生，把其放在同等地位，当伙伴，尊重其不同观点？
人工智能依赖物质基础
2
孙富春曾表示，所有的智能都有物理基础，是基于物料流和能量流的信息表现形式。我们今天谈论的智能一般是指计算机的算法智能，其实还有一大类的智能是不基于算法的智能，如生物智能，光的智能，量子智能，还有基于网络的群体智能。这样硅片计算机，生物的神经系统、DNA和免疫系统，光、量子和网络都是构成各类智能的物质基础。强调智能产生的物质基础，其目的是摆脱目前对智能局限于信息（主要是算法）的局限，从根本上超越目前硅智能的限制。以生物系统为例，微尺度智能研究细胞和分子层次的智能实现基础和表现形式。生物启发的智能是未来智能发展的重要范式，它依赖于生物学、生命科学和心理学的发现，所以这样一代人工智能叫碳智能。相较于硅云计算，生物计算具有以下三方面的优势：首先，存储量大，1立方米的DNA溶液，可以存贮1万亿亿的二进制数据；其次，运算快，DNA的耗能是普通电脑的十亿分之一，十几个小时的DNA计算，相当于所有电脑问世以来的总运算量；最后，能耗极低。孙富春认为，未来的人工智能会是这样一个图谱：从硅云计算发展到生物计算，最后到神经机制驱动下的强人工智能。
意思就是：人工智能在模仿生物智能等智能的模式？人工智能的发展还是要从生物学、生命科学和心理学的属人的范畴上去参考发展。
人工智能的未来发展
3
近年来，世界各国政府纷纷将人工智能上升为国家战略，牢牢抓住人工智能赋能各行业的发展契机，使其助力传统行业实现跨越式升级。人工智能正逐步成为掀起互联网颠覆性浪潮的新引擎。但人工智能不是万能的。目前人工智能的发展还有很多不足和“不能”。人工智能技术在很多方面距离成熟应用尚存在技术瓶颈；人工智能的滥用有可能带来道德伦理上的风险；人工智能技术垄断将造成的新“数字鸿沟”同样不应被轻视。关于人工智能的发展，我认为有如下趋势：机器将取代很多传统的工作岗位。这些岗位往往具有劳动强度大、附加值低、重复率高、规则清晰、危险系数高等特点，存在着用工难的问题。而人和机器关系的变化，将带来人机共生的新社会形态。此外，基于场景的智能化应用将是未来的重要的领域，包括生产、仓储、物流等。影响人工智能发展的三个要素即驱动资源、数据资源和计算理论，正在发生变化。5G和云端智能等技术将促进分布式人工智能的发展，使数据在云端通过学习生成知识成为可能，机器将具备认知和学会学习的能力。DNA计算、神经计算和免疫计算等新的生物驱动资源以及类生命材料技术的发展，将带来一场生物智能的革命。人机混合智能将把人类应用智能的水平带入一个新境界。此外，新的计算理论特别是量子计算理论和芯片技术的发展，将对人工智能的发展与应用产生革命性的影响。未来，我们应当采取理性务实的发展路径，扎实推进基础理论、芯片等核心计算资源短板的发展，营造人工智能创新生态，注重人工智能法律和伦理方面的研究。在开放中创新，在创新中发展，全速跑赢智能时代，着力建设人工智能科技强国。
个人理解，孙教授所说的人机混合智能，指的就是把人的智能模式应用到人工智能上。人工智能的就是在依据人的认知模式在进行认知作业，只不过由于非生物的特性，人工智能能储存和计算更大的数据，从而得出较人的认知效率高，准确率高。
个人观点：认知其实是一个完整的过程，包括信息输入、筛选、计算、最后输出指导行为的指令。这个过程是高度复杂和告诉个人化的。关于信息输入，耳朵好的人对于听觉所搜集的信息就更多比重也更大；对于对环境气氛比较敏感的人，对于周围的情绪感知可能就比较多；对于喜欢视觉性东西的人，视觉的信息输入权重就比较高。更不用说信息筛选、计算和输出了，都有关于行动人的各种生理机能与生活成长等背景。还有信息处理遇到的突发状况影响，急促且激烈。这种种产生的输出都不一样，而两台人工智能却可以对于同样的事情产生一模一样的输出。
此文涉及到的资料来源版权归原作者及刊载媒体所有，如本文中图片或文字侵犯您的权益，请联系我。另，本文仅代表在下个人观点，欢迎反驳。
来源:中国人工智能学会
编辑:九块八毛五
