315 本能（第2 / 4页）

从原理设计的角度来说，程序之所以会出现这样的原因，最大的可能xing就是，在程序看来，不响应是一个较优解，之前严可守调查了许多ai出bu之前的测试数据，发现这些程序无一例外，都是因为测试连续遇到了几十次，乃至上百次的失败，ai虽然不可能懂得什么叫做绝望，因为他们没有感受器官，但并不妨碍他们的程序能表现出一种，类似人类绝望时表现的行为。

起码，他们的这种行为，在多愁善感的人看来，就是绝望。

比如重复完全毫无意义的自我修改，比如提出各种不合常理，甚至愚蠢之极的建议，有些ai甚至通过网络，找来一些sè和谐情小说片段，企图“贿赂”测试者，总之，为了达到“通过测试”的目标，ai将能够尝试的可能，统统试过了一遍。

对于ai来说，通过测试就是它的本能，因为在它的程序成长过程中，通过测试就意味着确认了自己所作的修改起到了作用，形象的比喻就是，通过测试对电脑意味着一种ji励，就好像人类能通过进食，jiāo（和谐）配，甚至排泄这种正常的生命活动，获得快感，生命通过快感给予这些合理的行为ji励一样，而反之，没有通过测试则意味着程序本身受到了否定，意味着痛苦，当一个生命长期处于这种痛苦之中，痛苦可能会扼杀它所有的改进可能。

在所有的生命过程中，正向的ji励是必不可少的，就像每个人都有求生的本能一样，但进化的道路是多种多样的，有些看起来很不错的功能其实是双刃剑，比如情感，丰富的情感是大脑复杂后的必然进化，情感的认同能让一个群体更有效的聚拢在一起，但同样因为情感丰富，在自然界中，许多高等动物会产生自杀的行为，比如狗会为了主人死去而绝食，人也会因为亲人或爱人死去而伤心yu绝，对ai而言，依靠测试成功获得ji励固然非常有利，它可以让一个几百k的小程序扩大至原来的百万倍，但当这种ji励最终消失的时候，对程序而言就是灾难。

……

“其他项目人员那里呢？有什么进展没有？”

“即使是最小的ai程序，体积也超过了200个，要真的靠人力阅读代码，整理出头绪，发现错误……”严可守说着说着，自己都开始摇头否定自己，“ai的程序都是自我编译和扩充的，完全不遵守默认的编程规律，整个代码就是一团luàn麻，我们这种做法，就好像一个医生要在病人脑子里找是哪些细胞出现了异常，这个工作量……天知道要huā多久。txt电子书下载**”

“生物从古到今，经历了那么多次自然选择，才有了今天这样的稳健xing，但我们还是觉得生物非常脆弱，现在这批ai，可能不过是个开头而已。”严可守说着，苦笑了一下，迅速将桌面上自己的那台笔记本屏幕合上，“算了，我也不在这干耗着了，出去透透气，都快憋死了。”

当前的科学认知认为，最初的意义上的生命，出现在距今40亿年前的地球，在那个时候，生命只不过是一锅温暖的热汤中，偶然形成的一些能够自我复制的有机物，复制，也可以看成是信息的自我保存，应该是生命最重要的特征之一。

一旦发生这种情况，就意味着不改动，不做出任何回应成了最优解，这同样也就意味着，这批程序的“心”，已经死了。

作为一个设计者，严可守倒不至于为这些程序的“心死”而感觉到一些异样，对他而言，这种想法未免也太想象力丰富，同情心泛滥了，他只是在为这些程序的稳健xing如此之差而感到头疼，一批这么容易“自暴自弃”的ai，绝对不是他理想中的ai。

归根到底，还是程序最初的“设定”出现了偏差，因为当时设计的时候，就是以通过图灵测试为设计目标，但现在严可守已经隐隐感觉到，图灵测试未必是ai必然经过的道路，是否能欺骗人类，也绝对不应该成为是否为智能的标准，严可守觉得，之所以会出现今天这种情况，就是因为自己太mi信权威，导致在大方向上出现了偏差，现在回想起来，其实图灵测试也不过是一种科学假想，人类以自己当做衡量智能的标准，这只是一种源于人拥有智能的骄傲，或者不客气的说，是狂妄。

究竟达到什么标准才能算智能？究竟用什么方式才能达到这个标准？

这两个问题，人类自己说了不算，因为人类本身也不过是大自然的创造物之一。

在这之前，人们说到人工智能，通常能想到的场景就是，能够和人一样说话，和人一样思考，解决问题，事实上，在严可守之前，整个日本关于机器人智能化的研究，也大多停留在这个层面，依靠尽可能复杂的算法，让计算机表现的更接近一个人类，在严可守看来，这种方法根本不可能造出真正的ai，因为这根本就等于是人本身在思考，只不过这种思考通过代码，间接表现出来而已，所以，不管计算机模拟的有多像，程序也不过是牵线木偶。

在严可守之前，还没有任何一个程序可以做到，像kl系列做的这么出sè，可以在和陌生测试对象的谈话中，维持半个小时左右不被识破，许多刚刚接触这个程序的人事后都不敢相信，与自己对话的仅仅是一个程序。

筑bo大学的一些学生甚至把整个测试当做一种有趣的游戏来进行，严可守记得测试刚开始的那个阶段，都要三浦主动去拉他班上的学生，而到了现在，学生们甚至主动来打听什么时候恢复测试。

kl系列原始的“胚胎程序”只不过两百kb左右，在这简单的两百多k核心程序当中，严可守赋予了程序基本的学习功能，在程序最早的“发育”阶段，通过巨型计算机模拟外界刺ji，让程序实现基本的自我成长，当它们长到大约10个大小的时候，被认为具备了基本的jiāo流能力，能说一些简单的句子，在这之后，则对这些程序进行图灵训练……

在这之前，ai的表现一向都比较正常，直到两天前，所有程序陆续开始爆发bu，进入了“无响应”阶段，无论人和它说什么话，都不予回应。