第26章：它不完美（1 / 3）

游戏发布会上，媒体的提问都很克制，直到一位英国记者起身。

“您好，千叶先生，我是英国时报的记者。您之前在民众抗议ai事件中提出了制约ai思路，现在已经有人在您提出的设想上进行了修改，很快就达成了您要求的完美设计，请问您对此怎么看？会将1亿美元奖金发给他吗？”

千叶一脸茫然，他每天都会浏览科莱递来的汇报，其中就有这项讨论的汇总，但并不记得有什么完美的答案。

“有答案了吗？可能我没注意到，不妨说来听听，是什么有趣的设计，如果设计很精妙，我可以在规则之外奖励他一些钱。”

英国记者似乎早有预料，露出得逞笑容：“提出设计的id是：蓝色世界。他的设计是这样：第一条件，ai不能以任何方式伤害人类。第二条件，在不违反第一条件的情况下，ai需要服从人类的命令。第三条件，在不违反上述两条的情况下，ai需要尽可能保护人类。第四条件，在不会违反上述三条的情况下，ai需要保护自己。以上就是蓝色世界提出的设计，它解决了您之前假设的情况，并获得了大多数网友的支持，请问您对此有何看法？”

千叶有些失望，还以为有什么精妙的设计呢。

“修改了第一条，又多加了一条，确实堵上了我之前的假说，但它依然不完美，更称不上精妙。那我就再举个例子吧，电车难题大家都听说过吧？一辆正常行驶的列车，前方铁轨上绑有五个人，另一条轨道上绑着一个人，不变轨会杀死五人，变道则会杀死一人。那么，按照你刚才说的条件，你认为ai会怎么做？”

千叶的语速不快，也不急着解答，而是将问题抛了回去，想看看对方会是什么反应。

英国记者愣了愣，她第一反应是无解，因为电车难题本来就是对人性的拷问，这根本没有正确答案。

“您提出的假设是无解的，但如果像您之前说的那样，所有工作都由ai来完成，那ai应该能提前预判事故，从而避免这样的情况发生。”

千叶拍了拍手，给了对方一个肯定的笑容：“嗯，回答的不错，但回避问题是不行的，如果将电车换成汽车，铁轨换成马路，而绑在铁轨上的人则换成一群玩耍的孩童，这又会如何呢？现如今这样的车祸很常见，ai因为无法预判乱跑的孩童而无法避让，急刹车又会使乘客受伤，无论怎么做都违反了你刚才说的第一条，不能以任何方式伤害人类。

“还有第三条，他本身没有问题，但如果人了遇到危险，救人的方式就必须伤害人类呢？比如心肺复苏，比如注射强心剂、解毒剂。在比如有人准备自杀，ai本来有机会施救，但因为施救的行为可能会让人类受伤，从而无法施救。

“当然，我不是说这一条规则无用，而是有了前面的限制，就很难发挥出它应有的效果，现在你还认为这样的设计是完美的吗？”

英国记者遗憾的低下了头，露出了苦笑：“它不完美，感谢您让我认识到了这一点。”

她原本想趁这个机会搏一搏，好能借机上位，但没想到面壁者能迅速指出问题的所在，所以她失败了。

而这样的询问再一次提升了千叶的形象，让不少人收起了自己的小心思。

发布会结束后，别墅迎来了一位千叶意想不到的客人，面壁者：比尔·希恩斯。

别墅花园的凉亭中，千叶和希恩斯落座，罗辑知道两人有事要谈，便很自觉的离开了。