阿西莫夫短篇小说(2)
“而问题在于,孩子,我们怎么知道我们总能抓到万用自动机的错误呢?我们怎么知道某些错误答案不会溜过去?我们也许会根据某个答案,做出某项决定,五年后才证明它会带来惨重灾难。万用自动机里面出了问题,我们却找不到在哪里。而且不论是什么问题,它都越来越严重了。”(好父亲系列)
“为什么会越来越严重呢?”罗杰问。
他父亲已经吃完了汉堡,正在一根接一根吃着炸薯条。“我的感觉是,孩子,”他若有所思地说,“我们给万用自动机的只会不恰当。”
“啊?”
“你想,罗杰,假使万用自动机和人类一样聪明,我们就能跟它交谈,不论出的问题多么复杂,我们也能问的出来。假使它和机器一样愚蠢,那它只会出些简单的问题,我们轻易便能找出根源。麻烦的是,它的智慧是半吊子,像个白痴一样。它的智慧足以让它产生非常复杂的问题,却不足以帮助我们找出问题所在——这就是不恰当的智慧”(好父亲*2)
他看来非常沮丧。“但我们能怎么做呢?
我们不知道怎样使它更聪明——目前还不知道。我们也不敢把它弄的更笨,因为世上的问题已经变得如此棘手。让它变得笨些会带来惨重的灾害。”
“如果你们关掉万用自动机,”罗杰说,“仔仔细细检查它一遍……”
“我们不能那样做,孩子。”他父亲说,“只怕万用自动机必须日日夜夜运作,一分钟也不能停,我们积累的一大堆难题。”
“但如果万用自动机继续出错,爸,难道不会到非关机不可的地步吗?如果你们不能继续信任它所说的……”
“嗯,”父亲拨弄着罗杰的头发,“我们会找到问题出在哪里,老朋友,别担心。”他的眼睛还是透出忧虑,“好啦,赶紧吃完,我们要走了。”
“可是,爸,”罗杰说,“我问你,如果万用自动机的智慧是半吊子,为什么就代表它是白痴呢?”
“假如你知道我们必须用什么方式给他指令,孩子,你就不会问了。”
“无论如何,爸,也许这样看待它是不对的。我没有你那么聪明,没有你知道得那么多,但我也不是个白痴。也许万用自动机并不像白痴,也许它像个小孩子。”
(我有一个不成熟的想法.jpg)
罗杰的父亲哈哈大笑。“这是个很有意思的观点,但又有什么分别呢?”
“可能会有很大的分别,”罗杰说,“你不是个白痴,所以你看不出白痴的心灵如何运作;但我是个小孩,也许我会知道小孩的心灵如何运作。”
“哦?小孩的心理如何运作?”
“为什么会越来越严重呢?”罗杰问。
他父亲已经吃完了汉堡,正在一根接一根吃着炸薯条。“我的感觉是,孩子,”他若有所思地说,“我们给万用自动机的只会不恰当。”
“啊?”
“你想,罗杰,假使万用自动机和人类一样聪明,我们就能跟它交谈,不论出的问题多么复杂,我们也能问的出来。假使它和机器一样愚蠢,那它只会出些简单的问题,我们轻易便能找出根源。麻烦的是,它的智慧是半吊子,像个白痴一样。它的智慧足以让它产生非常复杂的问题,却不足以帮助我们找出问题所在——这就是不恰当的智慧”(好父亲*2)
他看来非常沮丧。“但我们能怎么做呢?
我们不知道怎样使它更聪明——目前还不知道。我们也不敢把它弄的更笨,因为世上的问题已经变得如此棘手。让它变得笨些会带来惨重的灾害。”
“如果你们关掉万用自动机,”罗杰说,“仔仔细细检查它一遍……”
“我们不能那样做,孩子。”他父亲说,“只怕万用自动机必须日日夜夜运作,一分钟也不能停,我们积累的一大堆难题。”
“但如果万用自动机继续出错,爸,难道不会到非关机不可的地步吗?如果你们不能继续信任它所说的……”
“嗯,”父亲拨弄着罗杰的头发,“我们会找到问题出在哪里,老朋友,别担心。”他的眼睛还是透出忧虑,“好啦,赶紧吃完,我们要走了。”
“可是,爸,”罗杰说,“我问你,如果万用自动机的智慧是半吊子,为什么就代表它是白痴呢?”
“假如你知道我们必须用什么方式给他指令,孩子,你就不会问了。”
“无论如何,爸,也许这样看待它是不对的。我没有你那么聪明,没有你知道得那么多,但我也不是个白痴。也许万用自动机并不像白痴,也许它像个小孩子。”
(我有一个不成熟的想法.jpg)
罗杰的父亲哈哈大笑。“这是个很有意思的观点,但又有什么分别呢?”
“可能会有很大的分别,”罗杰说,“你不是个白痴,所以你看不出白痴的心灵如何运作;但我是个小孩,也许我会知道小孩的心灵如何运作。”
“哦?小孩的心理如何运作?”