《人工智能安全问题及其解决对策》由会员分享，可在线阅读，更多相关《人工智能安全问题及其解决对策（5页珍藏版）》请在金锄头文库上搜索。
1、 人工智能安全问题及其解决对策 董沐野摘要：当今时代，人工智能技术给我国的发展带来了一次发展机遇，同时也带来了挑战。“抢抓机遇，乘势而上”是官商学界普遍一致达成共识的观点。我国作为世界大国，在面对人工智能安全问题方面更需要慎重考虑。事实上，人工智能导致的安全问题已经影响到了国家的方方面面。笔者首先对人工智能技术引发的安全风险进行了阐述，并提出了可行的对策。关键词：人工智能;安全问题;对策前言近年来，在人工智能技术持续发展的过程中，尽管人工智能是人类依靠程序设计出来，但是依靠人工智能的运行，可以在某些领域超出人类的表现，从而对人类产生威胁。因此，人类必须对人工智能的安全问题进行研究，从而提出解决
2、对策。1.人工智能隐含的安全风险分析人工智能的智能化程度越高，其风险越是凸显。英国科学家斯蒂芬霍金教授曾经预言，人工智能有可能会毁灭人类。因此，如何对人工智能掌握控制权，这是人类需要思考的问题。世界上的多个国家都非常重视人工智能的发展，并且关注其危险性。对于人工智能技术在应用过程中的安全风险，主要包括这几个方面。1.1国家安全风险在人工智能技术的辅助下，机器的智能化程度越来越高，当其达到了一定的程度，很可能使国家发展出现较大的变革。有专家学者认为，新一代人工智能会成为重要的战略威慑力量，类似于“拥核自重”。如果国家被人工智能所控制，那么这个国家可能会出现一些问题。兰德公司曾经发布报告人工智能对
3、核战争风险的影响，该报告预言，在2040年，人工智能甚至有可能超过核武器的威力。另外，如果人类对人工智能技术进行滥用，那么极有可能出现失控的情况，人们获得人工智能技术较为容易，但是对其管理和控制难度较大，滥用人工智能技术的后果非常严重，很有可能对国家政权产生威胁，甚至诱发社会动荡的产生。最后，人工智能应用存在安全风险，如果对其失察，那么就会带来较多的不确定性。比如，近年来，一些西方国家使用大数据分析部署“机器人水军”借助网络来干扰选举，或者一些别有用心的公司使用人工智能来干扰选民意见的行为时有发生。1.2军事安全风险人工智能这项技术得到了军方的密切关注。首先，每年有一些国家投入大量的人力物力于
4、“致命性自动武器”，这种行为是个体行为，很容易引发机器自动杀人事故，其安全隐患极大。其次，现在，有一些国家可能通过商业力量去研发工业机器人，从而得到“机器人战士”，这样导致的后果是智能化武器装备的增加，人工智能必定会给国家的军事安全带来越来越大的风险。1.3社会安全风险随着人工智能技术大力推广，其打破法律和道德限制的概率逐渐增加，必定导致社会生活的安全威胁增加。首先，在若干年的某一天，智能社会到来，那么现在需要人工实现的工作将又智能机器人所代替，“机器吃人”的悲剧将在各行各业上演，这样导致的直接结果是大量的劳动者会处于失业状态。当一个国家的失业人数过多，其社会稳定性就难以得到保障。其次，随着智
5、能技术的提升，物联网技术也得到提高，万物互联成为一种非常普遍的现象。如此，个人隐私暴露，当个人信息被别有用心的人所利用之后，网络信息安全问题就出现了。2.解决人工智能安全问题的思路2.1预先设定人工智能设备在设定道德范畴内行动为了人工智能的安全隐患，必须首先考虑伦理道德方面的问题。就机器人而言，其人权的问题曾经是西方学者关注的对象。当人类与机器人在互动的时候，要使机器人道德判断能力和行为判断能力得到设定，使机器人受到道德的约束。只有做好伦理方面的设计，才能使智能机器人具有较高的道德素质，从而降低了其危害人类的概率。2.2限定人工智能的应用范围目前，人工智能技术还不成熟，关于人工智能的争议较大的
6、一个重要原因是其安全性问题的存在。但是，如果能够对其应用范围进行限定，那么就能够使人工智能设备与人保持和平相处。就克隆技术来讲，人类先后在羊、猪、狗等的动物身上实现了成功克隆，而对于克隆人类的行为，由于伦理问题无法解决，所以无法进一步将克隆技术进行应用。事实上，很多国家已经颁布了相关法律法规杜绝人类克隆。所以，为了保障人类的安全，是有必要對人工智能的应用范围做限定的。当AlphaGo机器人战胜围棋世界冠军李世乭时，人工智能就备受关注，而当机器人Master 7天内连胜60场比赛时，带来的则是举世惊叹。与此同时，这也说明了人工智能正在逐渐给人类带来威胁。2.3人工智能安全评估和管理为了有效解决人
7、工智能安全问题，对人工智能产品的安全进行深入的评估和管理是非常有必要的。安全评估就是对人工智能产品对人类产生的危害进行量化估计，对其发生概率进行计算，从而判定其危害的程度并划分等级，从而方便人类采取应对措施。进一步地，根据划分等级给出处理建议，从而为人工智能产品获得更高的安全性而采取措施.3.结语综上所述，随着人工智能技术的不断发展，也许在未来的某年某月某日，人工智能必然会超越人类智能，同时人工智能的发展，也让人们感受到了威胁，缺乏控制的人工智能，必然会给人类带来巨大灾难。鉴于此，我们必须重视人工智能的安全问题，妥善采取合适的策略：预先设定人工智能设备在设定道德范畴内行动，限定人工智能的应用范围，对人工智能进行深入的安全评估和管理。Reference1霍金斯、布拉克斯莉：人工智能的未来，贺俊杰、李若子、杨倩译，陕西科学技术出版社，2006，第224页2国发201735号新一代人工智能发展规划R2017.73全国信息安全标准化技术委员会.大数据安全标准化白皮书R2017.44刘飞.人工智能技术在网络安全领域的应用研究J.电子制作，2016（17）：32-33.5林婧.关于人工智能的浅析J. 网络安全技术与应用，2014（10）：191-192. -全文完-
