人工智能安全问题及其解决思路

摘要：近年来，随着人工智能技术的不断发展，人们开始重视人工智能的安全问题。众所周知，人工智能在许多方面要优于人类，而且随着技术不断发展，有望超过人类智能，如果人工智能失去控制，必然会带来严重的安全问题。本文主要研究人工智能安全性问题以及如何控制好人工智能的发展，使其有利于人类社会，避免给人类带来危害。

关键词：人工智能；安全问题；解决思路

一、研究人工智能安全问题的必要性

（一）存在人工智能超越人类智能的可能性

机器是人类研究出来，可以说人类有着较高的智能水平，远高于其他生物，所以才能为地球的统治者。近年来，人工智能技术不断的发展，虽然人工智能是人类依靠程序设计出来，但是依靠其运行，可以在某些领域超出人类的表现。例如，人工智能阿尔法狗在围棋战中，取得胜利，见下图。因此，人工智能逐步超越人类智能是可能的。有学者从未来学和哲学的角度，分析人工智能，人为人工智能是人类发展出来，而且有望超越人类。科技发展史证明了，科学家的许多寓言终将成为现实，从人工智能的发展来看，人们十分重视人工智能，在未来时期内，必将迎来新一轮的高速发展。因此，可以看出，人工智能发展速度较快，在不久的将来必然会超越人类智能。

人工智能同围棋大师进行围棋比赛图

（二）人工智能存在危害性而且后果严重

人工智能的发展，让人们忧心忡忡，主要表现在，人工智能的出现，许多岗位利用机器取代人工操作，人类面临下岗的可能，另一方面，人工智能超越人类智能，摆脱人类控制。较为客观的态度是，人工智能在短时间内不会超越人类智能。松尾丰，日本人工智能专家，提出“人工智能彻底征服人来，在现阶段是不会产生的，只是人们的主观臆想，因此，没有必要对人工智能的未来充满忧虑”。虽然人工智能还未全面超越人类智能，但是不受控制的人工智能同样存在较大的危害，互联网络的发展，依靠网络实现对人工智能的控制，同时也增加了人工智能的安全问题。例如，互联网容易受到病毒和黑客的入侵，这对人工智能类产品有着巨大的安全隐患，如果控制不好，会带来巨大的灾难。例如，黑客利用互联网，侵入了人工智能机器人的系统，就等于控制了智能机器人，可能由于人为原因，带来不可估量的后果。以当前流行的“无人驾驶汽车”为例，无人驾驶汽车是正在兴起的一项人工智能技术，已经在深圳市试运行，如果无人驾驶汽车人工智能系统，遭到非法分子侵入，必然会导致车辆内的人群被挟持，存在较大安全隐患。

二、解决人工智能安全问题的思路

（一）人工智能的伦理设计

伦理设计是解决人工智能存在安全隐患的基本思路。关于机器人的伦理问题，由于涉及到人权，受到许多西方学者的高度关注。所谓伦理设计，是指在机器人同人类互动中，为机器人设定道德判断能力和行为判断能力，让机器人在人们预先设定的道德范畴内行动。依靠伦理设计，机器人拥有较高的道德素质，成为只会做好事的楷模，可以避免机器人出现危害人类的行为。美国学者艾伦和瓦拉赫提出，人工智能在未来会离开人类监管，可以自主进行决定，只有采用伦理设计，设计出具有道德抉择的机器人，才能保证人工智能的安全。当然，人工智能的伦理设计，大多还处在理论阶段，还需要不断发展，来完善人工智能伦理设计，使其成为一种可能。随着人工智能伦理理论的研究深入，人们可以相信，拥有道德判断和行为判断的人工智能系统，是安全可靠的。

（二）限定人工智能的应用范围

人工智能是一项尚未成熟，存在争议和安全问题的技术，对其进行应用范围的限定，是保证社会和谐的重要举措。以克隆技术为例，克隆技术最初在羊身上克隆成功，随后在猪、牛、狗等动物身上相继试验成功。对于是否可以进行人类的克隆，有着巨大的争议，将克隆技术应用到人类身上，存在伦理问题，而且克隆技术尚未成熟，需要不断完善。有学者人为，即便某天克隆技术发展成熟，也不能将其用在人类身上，为此，部分国家设立专门的法律条款，明确规定，禁止克隆人类。因此，为了保证人工智能有着良好的安全性，需要限定人工智能的应用范围。当前，人工智能主要应用在具有明确规则的领域，例如，各种棋类。人工智能在围棋比赛战胜人类，说明人工智能有着由于人类的学习能力和运算能力，可以轻松的完成大量数据的处理。虽然人工智能学习能力较强，但是无法做到触类旁通，不具备将学习经验应用到多个领域的能力。因此，人工智能转换能力较差，虽然属于人工智能的缺陷，但却是保证其安全的重要方法。人工智能应用在单一的领域，例如，棋类竞赛、无人驾驶等领域，让其在限定领域内发挥其优势，避免由于人工智能发展过于强大，给人们带来威胁。

（三）人工智能安全评估与管理

对人工智能产品进行安全评估与管理，也是解决人工智能安全问题的有效途径。所谓安全评估是指，对人工智能产品可能出现的危害、危害程度进行量化评估，计算发生概率，划分危害等级，并制定相应的安全标准以及应对方案。依靠人工智能的安全评估，技术人员对人工智能存在危害因素进行评估，给出解决意见，设计出安全性能高的人工智能产品。人工技能进行安全评估，是预防人工智能安全事故的重要措施，也是人工智能实现安全管理的重要保障，因此，安全评估可以提升人工智能产品的安全系数。通常情况下，人工智能出现故障或者安全问题往往没有征兆，而且会出现严重的问题，只有依靠技术人员进行相关产品的安全评估，才能消除人们对人工智能产品存在的忧虑。

三、结语

综上所述，随着人工智能技术的不斷发展，在未来的某天，人工智能必然会超越人类智能，同时人工智能的发展，也让人们感受到了威胁，缺乏控制的人工智能，必然会给人类带来巨大灾难。解决人工智能安全问题，可以从以下几点进行：首先，人工智能的伦理设计。其次，限定人工智能的应用范围。最后，人工智能安全评估与管理。

参考文献：

[1]杜严勇.人工智能安全问题及其解决进路[J].哲学动态，2016（9）：99104.

[2]刘飞.人工智能技术在网络安全领域的应用研究[J].电子制作，2016（17）：3233.

[3]林婧.关于人工智能的浅析[J].网络安全技术与应用，2014（10）：191192.