【姐妹日常】XXII.AI(3)

“这往大了说会涉及到AI与人究竟应该是何种关系这样的关键问题。”
“你说对了。AI应该以何种程度介入人们的日常生活或是工农业生产一直都没有定论。就比如AI实现自动驾驶，虽然在一般路况的时候自动驾驶能一定程度上代替人，但面对拥挤的城市道路或者夜间行车这样的复杂路况，交给自动驾驶还是很危险。有人说调STD相当于操控一个没脑子的机器人，调AI相当于操控一个有脑子的机器人，调AI有时你得和机器人的脑子角力，不一定能完全如你所愿。”
“这问题不好解决。刚才你提到的自动驾驶有一个关键点会极度放大AI和人之间的矛盾，那就是交通事故会危及生命。自动驾驶如果做不好，很容易就会违背机器人三定律中最根本的第一条，即机器人不得伤害人类或坐视人类被伤害而不理。虽然机器人三定律并非法律条文，甚至并非道德准则，但我一直以来都很认同这些观点，认为这几条能够指引AI的发展。我之前也注意到了帮助棋手训练的围棋AI能够被特定的攻击性算法找到缺陷从而一举战胜的论文，这虽然仅仅是围棋领域的文章，但往大了说这也意味着任何AI都可以被专门制作的攻击性算法发现漏洞，从而导致其被恶意利用。我感觉这对于AI的发展会有很大的影响，因为对于咱们用来帮助自己的工具而言，安全永远第一。”

“我完全认同。幸好咱们的声库顶多也就是唱不好歌，不会带来什么伤害，要不然如果把这样的思辨加在咱们头上，咱可顶不住的。”
“不过我觉得那篇论文对咱的AI声库也有一定意义。如果有谁能通过攻击性算法找到咱声库的天然缺陷，对于后续的算法优化也一定很有帮助。”
“这可不太好找，因为这里所谓的“天然缺陷”也就是按照某种方式唱歌时会很难听，不足以构成极有突破性意义的发现，对于真实演唱也不一定有指导意义。这样吧，等AI绫到了，我会再试试这个，动员姐妹们找这个声库的缺点，然后告诉阿绫。你们到时候也一定要去挑挑刺。”
“肯定会的。对了，你的姐妹们后面会更AI声库吗，还是说会在已有std的基础上升拓展？”
“我不太清楚，但明年似乎没有计划。唉，这后面有一些烂摊子，等你过来咱们再说吧。”
“那到时候再见！记得看我们的跨年晚会！”投影瞬间关闭。
“我可不想等天依过来之后一直朝她吐苦水。不过，今年我这边真心没什么好消息......”