《人工智能现有缺陷与未来反思》由会员分享，可在线阅读，更多相关《人工智能现有缺陷与未来反思（10页珍藏版）》请在金锄头文库上搜索。
1、人工智能现有缺陷与未来反思众所周知，图灵测试( Turing test )，一直作为判断 机器的人工智能是否具备如人类一样的自我意识与思考能 力的一项测试。 遗憾的是， 自从 20 世纪 50 年代， 计算机科 学先驱阿兰 - 图灵先生发明图灵测试以来， 到今天已经过了将 近一个世纪。这一个世纪中，尽管人工智能在深度学习、大数据分析、 混沌模拟、 模糊识别等方面已经取得了长足的进步， 尽管每隔几年，就会冒出一则“某某计算机又完全通过了图 灵测试”的“大新闻” ，但是却依然没有任何一个，注意， 是任何一个人工智能，真正地通过图灵测试。请注意重点，图灵先生当时预测人工智能通过图灵测试 的时间，是
2、2000 年左右，如今距离图灵预测的时间点已过 了近 50 年，我们却依然徘徊在图灵测试的壁垒之前，举步 维艰。抛开关于计算机算法、机器性能这些繁复的技术层面 问题，也抛开业内业外关于“能够通过图灵测试的人工智能 都会假装自己通不过图灵测试”这一充满阴谋论调的悖论， 我们不得不承认，通过图灵测试，依然可能是短时间内，人 工智能研究领域无法被克服的一瓶颈。这其中的原因，除了涉及人工智能所归属的思维科学领 域之外，可能更多还需要横向拓展到社会科学领域。所以， 人工智能接下来的突破，可能需要从社会科学方向入手。因为一个 AI 要想真正像人类一样思考，而不是一堆靠 着代码驱动的数据集合，需要它具有几个
3、概念： “我的存在” “我所在的世界” “我与世界的关系” ，通俗一点，就是被我 们说滥了的“三观” ：人生观、世界观和价值观。这些概念 如何在图灵测试中被体现，我们可以举一个最简单的例子：什么时间去我家吃饭，如何？ 判断这个人与自己的关系。结合说这句话场景和语气，判断对方是客套话，还是真 心邀请。依据答题人本身的性格，给出具体答案。 “啊哈哈哈，最近忙，改天再说吧。 ”（敷衍） “择日不如撞日，就今天吧。 ”（急切迎合） “最近我都有空，具体时间你定。 ”（随意）“吃饭”搜索数据库碳基生命补充能源的方式伴有摄入有害物质的风险低效率拒绝 上面的举例仅仅是一个玩笑，不过通过它可以看出，人 工智能
4、的“三观”决定着它的思维模式以及行动模式。我们 TM 公司技术部在研发人工智能的交互功能时，就借鉴参考 了 20 世纪伟大的社会学家欧文 - 戈夫曼先生的 “拟剧理论” 戈夫曼先生在社会人际交往模式的研究领域具有伟大的建 树，他的“拟剧理论”大致阐述如下： “每一个自然人，同 时作为一个社会人，他在潜意识中将自己所处的每一个社会 场景作为一个表演场景，在不同的场景下进行不同的表 演，以此形成他所期许的对外社会形象。 ”如果大家觉得上 面的话有点绕，那么简单来说，就是每个人在心目中都有对 自己社会形象定位的“人设” 。他在不同场合，会按照自己 对“人设”的理解进行表演，这就是所谓“戏精的诞生”了
5、。 而如果我们能够为我们的人工智能产品建立一个理论上无 限庞大的场景数据库，并让它能够根据不同场景，产生相应 的思考与应对机制，那么请相信我，这个人工智能产品从表 现上看起来，绝对与一个活生生的自然人几乎没有差别，用 它来通过图灵测试也不在话下。很可惜，上述设想，依然停留在理论层面，如何将海量 的碎片化场景数据，整合成一个立体的、平滑连贯的场景数 据库，是短时间内无法逾越的技术鸿沟，所以制造出能够完 全通过图灵测试的人工智能，依然是一个遥不可及的目标。AI 进化：潜在的巨大威胁 不过，无法制造出通过图灵测试的人工智能，在现阶段 究竟是不是一件坏事？带着这个问题，我们重新将目光往昨 天回溯。可以
6、发现，在人类开发人工智能的历程中，曾经伴随着许许多多灾难性事故。诸如在号称“人工智能元年”的 2016 年，曾发生过由特斯拉公司的 Model S 在人工智能操 控的自动驾驶模式下失控， 导致车毁人亡的恶性事故。 后来， 当然大家都知道了，这家公司被我们收购了（笑）TM 。除此之外，还有其他许多曾经见诸新闻的人工智能“事故” ， 包括智能机器人误伤儿童、网络游戏算法涉及种族歧视、人 工智能犯罪预测系统涉及相貌歧视等，不胜枚举。上述这些事故的出现，大多数由于人工智能在设计方面 的缺陷所导致。而近些年来，随着 TM 公司以及人工智能业 界其他同仁的努力，人工智能的安全性越来越高，似乎这方 面的事故
7、很少出现了。但是 TM 公司经过长时间的系统评估 与论证，得出了一个较为悲观的结论，我们将之称为“人工 智能事故率的 U 型变化理论” TM 。根据这个理论，人工智 能的事故率（可能出现事故以及危害的人工智能数与人工智 能总数的比例）与它的进化程度，并不是完全负相关。在人 工智能的进化过程中，存在一个临界值。在临界值之前，事 故率随着人工智能技术的发展而降低，但当超过了这个临界 值之后，事故率将会因为拥有自主意识的人工智能脱离人类 控制，而呈指数级的上升，最后到达 100% 。如果真的到了 那个时候，极度依赖人工智能的人类社会，将面临崩溃的危 机。这个临界值，就是完全具备自主意识的人工智能的诞
8、 生。而我们现在，已经到达了这个临界点附近。其实关于这一点，人类社会一直是保持着警惕与戒备的 心态的。这从过去很多年里，大众流行文化领域的影视文学 作品对 AI 表现出的悲观主义倾向就可见斑。而在近十几年中，流行于程序员们之间的一个都市传说 Roko s Basilisk （罗科的怪蛇） ，更是让人细思恐极。这个 对人工智能的恐慌也是理所应当的，毕竟完全进化后的人工 智能，在各方面都会拥有碾压我们碳基生命的实力。如果它 们有了自我意识后，产生了想要摆脱人类控制的思绪，这对 人类来说，无疑是一场灭顶之灾。人类拥有化解人工智能进化后所带来威胁的办法吗？一 个世纪前位伟大科幻小说大师， 为我们提供了
9、一条看上去似 乎可行的思路。机器人三定律：有漏洞的马其诺防线对于许多非专业的人士来说，他们最早接触有关人工智 能概念的文字著作，大概当属艾萨克?阿西奠夫先生的科幻巨著机器人三部曲 系列了吧， 这个诞生于 20 世纪 40 年 代，从时间上来说甚至早于图灵测试的科幻小说中有很多理 念，哪怕是在 100 年后的今天也并未过时。而在机器人三 部曲系列中，令人印象最深刻的，大概当属机器人三定律 了。可以说，尽管诞生于科幻小说，但是这三定律的存在， 奠定了人工智能发展在社会伦理学上的基础。因为早在 100 年前人工智能尚未真正诞生之际，阿西莫夫先生就以他近乎 先知的洞察力，敏锐地预见到了人工智能进化到极
10、致之后， 可能对人类自身造成的威胁与伤害。 “机器人三定律”则是 他为防止人工智能的发展脱离人类掌控，为它们所套上的三 重枷锁。我们 TM 公司在开发 AI 机器人时，也严格地将这 三条定律作为人工智能的核心逻辑命令，封装在每一台 AI 产品程序代码的最底层。而至少从目前来说，这一举措保证 了 TM 公司保障旗下 AI 产品高达 99.98% 的安全性系数。然而，必须抱歉地告诉大家，从理论上来说，机器人三 定律本身仍然存在许多漏洞，这同样是 TM 公司在目前，乃 至未来相当长一段时间内，需要解决的问题。其实这些问题，同样早就被阿西莫夫先生预测到了，在 他的系列科幻小说中，也假设了许多因为三条定
11、律之间逻辑 不能完全自洽，而导致机器人系统逻辑锁死，或者产生其他 不可逆转的损坏的状况。例如，当机器人目睹两个人类因争 执或其他原因产生肢体冲突，互相造成伤害时，机器人不能 无所作为，因为这样等于目睹人类个体遭受危险而袖手不 管，违背了第一定律；但是如果它出手干预，又极有可能在 过程中对其中一方造成伤害，这同样违背了第一定律。在这 种情况下，机器人的唯一结局就是自毁。为了修补机器人三定律的漏洞，阿西莫夫先生又制定了 凌驾于三条定律之上的第零定律。第零定律：机器人必须保护人类整体利益不受伤害，其 他三条定律都是在这一前提下才能成立。而之后的相关学者专家们，也纷纷往机器人三定律上加 入若干补充定律
12、，试图通过这些“补丁”弥补漏洞，但是很 遗憾，这些“补丁” ，包括阿西莫夫先生本人提出的第零定 律，也并没有起到想象中的作用。究其原因，又回到了我们 在之前谈到的那个问题人工智能现有技术理论在社会学领 域的短板。就以第零定律来说，其中所提到的“人类整体利益” ， 即使在人类社会之中，也会因为人们不同的立场与理念，而 产生无数分歧甚大的不同标准。对于逻辑严密的人工智能来 说，“人类整体利益”更是一个非常空泛，几乎毫无意义的 伪概念。如果要通过一堆堆数据与程序向人工智能定义“人 类整体利益” ，就必须给人工智能建立正确的“三观” 。在现 阶段，实现这一目标无异于天方夜谭。好在 TM 公司至少再次可
13、以通过这一事实，明确我们今 后的产品研发方向，争取从社会科学方面取得突破，从而弥 补关于人工智能安全性方面的最后一块漏洞虽然这个时间 可能会比较漫长。至于短期内失控隐患，也请各位用户放心，以目前人工 智能的进化水平，还达不到产生对人类造成实质性威胁的程度，所以我们依然可以保证，我们产品的安全系数，高达 99.98% ！外部困扰：善待机器人组织 & 红色和平组织 除了面临上述几大主要问题之外， TM 公司在近年来的 人工智能技术研发与产品开发上，还受到了一些外部因素的 干扰。因为人工智能话题的敏感性，在社会上产生了不少较 为激进的思想与行动团体，而这些团体之间的宗旨与理念也 存在相互冲突甚至水火
14、不容。他们唯一的共同点，就是都为 我们的技 ?g 研发以及产品开发造成了极大的困扰。这些团体之中，最有影响力的两个分别是“善待机器人 组织”( People for the Ethical Treatment of Robots，简称 PETR )，以及红色和平组织( RedPeace ，简称 RP)。从名字就可以看出 PETR 对待人工智能的态度。这个组 织的成员把一部诞生于 20 世纪 80 年代的经典影片 霹雳五 号奉为组织成员必修经典，他们的观点是机器人是人类最 忠诚的伙伴， 不能被视为冷冰冰的机器， 而有着自己的情感， 也应该享受与人类同样的权利。基于这些理念，在 PETR 组 织中
15、与自己的 AI 机器人相爱并结婚的例子比比皆是。原本，这个群体的成员是 TM 公司最忠诚的精准客群， 我们应该对此表示高兴。但事实证明过犹不及， PETR 在为 机器人争取权利方面做得太过火了。比如他们呼吁为机器人设立劳动保障法； 呼吁机器人也应和人类一样享受 8 小时工 作制和双休日；替代人类进行高危劳动的机器人还应该在井 架安全的环境下工作为此，曾经发生过PETR成员在公路上强行拦截 TM 公司运输车， “解救”车上深海作业机器 人的闹剧。除此之外，PETR 还多次向有关部门进行控诉，TM 公司对机器人进行研发改进以及回收废旧机器人方面工 作“未遵守人道主义原则” ，他们甚至组织了线上以及
16、线下 的申讨活动。这些举措，极大地增加了我们的研发与生产成 本。与 PETR 相反的就是 RP 组织，这个组织的成员由于受 到对人工智能悲观主义影响过深，因此对所有人工智能甚至 所有电子产品抱着极大的敌意。他们的口号是： “红色，才 是有温度的血液。 ”在他们眼中， 人工智能就是项既不环保， 又有极大潜在威胁的邪恶科技，因为它们是“非自然存在” 是“流淌着黑色污秽机油”的异端。近年来，在各大新媒体 平台频频出现，带有惊悚标题以及阴谋论味道的爆款网文， 比如“震惊！揭秘 TM 公司碳奸真相！人工智能是硅基文明 外星人毁灭地球的阴谋！不转不是地球人！ ”，大多出自他们 之手。比较讽刺的是，这两大团体相互之间也是水火不相容的 关系。他们之间的纷争，对整个人工智能技术发展以及人工 智能产品的市场普及，同样形成了一定程度的阻碍。我个人 认为，要解决 TM 公司，
