爱的算法（第5/7页）

但她的大脑，啊，她的大脑。

我用最快的量子处理器和最好的固态存储阵列来运行多层多反馈神经网络，另外，还加上了我自己修正过的斯坦福语义数据库。程序美轮美奂，简直称得上是艺术品。我仅仅在数据模型上就花了半年以上的时间。

我教会她何时微笑，何时皱眉，如何说话，如何聆听。每天晚上我都会分析神经网络各节点的活化图，试图在问题出现之前就找出来并解决掉。

布拉德从没见过研发阶段的塔拉。他当时正忙着弥补艾米给公司带来的损失，后来又忙于推销新娃娃。我想给他个惊喜。

我把塔拉放到轮椅上，告诉布拉德她是一个朋友的女儿。我说我有些事，问他能不能代我陪她玩几个钟头。然后，我就把他们留在了我的办公室里。

两个小时之后，我回来了，发现布拉德正在给她读《布拉格魔像》：“来，”大拉比勒夫说，“睁开你的双眼，像个真正的人一样说话吧！”

布拉德就是这样，我想，他总是知道怎么挪揄人。

“好了，”我打断他，“别取笑我了，我知道了。你用了多长时间？”

他冲塔拉笑笑，“下次我们接着念。”然后转向我，“用了多长时间做什么？”

“看出来。”

“看出什么来？”

“别逗了。”我说，“说真的，她哪里被你看穿了？”

“看穿什么？”布拉德和塔拉一起问。

塔拉无论说什么做什么对我来说都不稀奇。我能在她开口之前预见到她讲的每一句话。不管怎样，她的所有代码都是我写的，而且我确切地知道每次互动之后她的神经网络会如何变化。

但是，没有任何旁人怀疑她是不是真人。我应该为此兴高采烈才对。我的娃娃通过的是一次现实中的图灵测试。可我还是吓坏了。那些算法只是对智能的拙劣模仿，却似乎没人发觉，甚至根本没人在乎。

一个星期后，我把这件事告诉了布拉德，他在最初的惊愕之后便喜出望外（我就知道他会这样）。

“好极了，”他说，“我们现在就不仅仅是一家玩具公司了。你能想象我们可以拿它派多大用场吗？你就要出名了，要出大名了！”

他一直喋喋不休地说着塔拉的潜在用途，直到发觉我的沉默，“怎么了？”

于是，我就给他讲了“中文屋子”测试理论。

哲学家约翰·塞尔曾经给人工智能的研究者提出一个假设。想象一间屋子，他说，一间大屋子，里面坐满了一丝不苟的职员。这些人非常服从命令，但只懂英语。画着奇怪图案的卡片被连续不断地送进来，职员要在空白卡片上画出另外的奇怪图案作为回应，并把画好的卡片送出去。为了做到这一点，职员都备有厚厚的手册，里面满是用英文写好的规则，比方说：“如果见到某卡片上有一条横线，而后面的卡片上有两条竖线，则在一张空白卡片正中画一个三角，传给你右首的职员。”没有任何一条规则说明这些图案的含义。

实际上，送进屋子的是用中文书写的问题，而职员依据规则炮制出来的是用中文做出的恰当回答。但我们能说这一过程涉及的任何要素——规则、职员、整个屋子，乃至这一系列行为——理解哪怕一点点中文么？把职员置换为处理器，把规则置换为程序，那你就可以看出图灵测试其实什么都不能证明。人工智能只是一种假象。

其实，还可以从另一个角度来看“中文屋子”理论：用神经元代替职员，用激活它们之间电位分布的物理法则来代替规则，那我们谁还可以说自己“理解”什么？思维也是一种假象。

“我听不懂。”布拉德说，“你在讲什么？”

过了一会儿，我便意识到这正是我预计他会说的话。

“布拉德，”我看着他的眼睛，祈求他能理解，“我好害怕，要是我们也和塔拉一样怎么办？”

“我们？你是说大活人？你到底想说什么？”

“我们——”我竭力寻找合适的词，“是不是只在日复一日地运行某种算法？我们的脑细胞是不是只在接收某种信号？我们是不是根本就没有在思考？我现在对你讲的话是不是由什么客观物理法则所预设的反应？”

“伊琳娜，”布拉德说，“你把哲学思考与现实混在一起了。”

我需要睡眠。我想，感觉已经没有希望了。

“我想你需要睡一会儿。”布拉德说。

我把钱递给推车卖咖啡的姑娘，她给了我一杯咖啡。我望着她。现在是早上八点，但她看起来又疲倦又无聊，让我都感到累了。

我得去度个假。

“我得去度个假。”她说，还夸张地叹了口气。

我走过接待员的座位。