刘宇昆：杀敌算法(7)

这种代码将展现我的父亲以及像他那样的人的意识，这样就再没人需要做他们做过的事，承受他们所承受过的苦了。
“小菜一碟。”亚历克斯说完，所有人都大笑起来，除了凯拉和施托伯博士。
凯拉将全身心投入到了一款名为“道德监管者”模块的研发工作当中。该模块负责在机器人向嫌疑目标开火时，最大程度降低附带损伤。她在为杀人机器装上良心。
凯拉每周末都来加班，并待到很晚，有时就在办公室里睡，却并不觉得自己做出了多大的牺牲。她无法和寥寥无几的朋友谈论自己所从事的工作，也不愿浪费在办公室之外的时间与亚历克斯这样的人相处。
她反复观看无人机空袭的视频，不知其中是否有她父亲经手的任务。她十分理解当某人透过摄像头看着自己即将击杀的人时所感到的困惑，所体验到的一种强大与无力并存的奇怪感受，以及要做出决断的压力。
最难的部分在于将这种理解转换成代码。计算机要求精准无误，同时需要将含糊不明的直觉理顺，从而迫使人直面隐匿于人类意识角落里的丑恶。
为了使机器人最大限度地降低附带损伤，凯拉得给拥挤城区里所有可能受到威胁的生命体都分配数值。而做到这点的最有效方法之一 ——至少在模拟场景中是如此——恰好也是最显而易见的方法：做侧写。这种算法需将种族特征以及关于语言、衣着的线索转译成一串数字，一串掌握着生杀大权的数字。沉重的任务让她心力交瘁。

“一切还好吗？”施托伯博士问道。
凯拉从键盘上抬起头。办公室的灯已经灭了，外面很暗。楼里差不多只剩她一个人。
“你最近太辛苦了。”
“有很多事要做。”
“我查看了你的打卡记录。看上去你似乎卡在了用面部识别软件来判断种族身份的阶段。”
凯拉凝视着办公室门口施托伯博士的身影，走廊的灯光映照着他的后背。“没有相关的API①。”
①译者注：API（Application Programming Interface），应用程序编程接口。
“我知道，但你却不愿自己动手开发。”
“那样似乎……是不对的。”
施托伯博士走进来，坐到桌子另一边的椅子上，“最近我看到了一件有意思的事。二战期间，美国陆军专门为战争训练了一批狗，担任岗哨、警卫等职能，甚至在一次攻岛战役中充当了突击队。”
凯拉看着他，等待着。
“那些狗必须被训练出分辨敌我的能力，于是军方让一批日裔美国籍志愿者教狗进行侧写，以攻击具有特定面部特征的人。我一直很想知道那些志愿者的感受。这种事虽让人反感，却很必要。”