会发生什么事?朗世注视着亚布里艾尔。
“这个机器人产品是家庭用的,系统正常的情况下,它将可以按照使用者的指令,为使用者提供家政等服务,届时可以大量减少使用者花费在家政等琐事上的时间。但是,系统失控之后它会产生错误的判断,例如婴幼儿的哭闹声,最高可达140分贝。如果长时间持续,那已经是属于噪音了,而失控的系统就会直接认定哭闹的婴儿是噪音源,但你看过它的处理方式了吗?”亚布里艾尔定定地看着他:“关闭噪音源——无法关闭——直接处理。”
“……”
办公室里一阵倒吸气的声音。
“你怎么肯定系统会这样处理?”
“我摸拟了这个bug的问题有十五次,每次都显示这个处理结果。”
“这是重大的产品失误,不是一个小bug。”亚布里艾尔说道:“机器人犯罪不是没有先例,但这种能提前知道的失误不是我们应该极力避免的吗?”
朗世被吓了一跳,他没想到亚布里艾尔会摸拟到这一层。
“那后续衍生功能的准备该怎么办?”
“产品后续功能的可以在ai里实现,这个os系统可以暂时不必考虑这一层。”亚布里艾尔说道。
“你怎么知道还有ai要研发?”朗世又吃了一惊。
“研发计划书是我写的。”亚布里艾尔耸肩。
朗世打电话给总公司的唐璜总监,说明了修正的意见。
“那不正好吗?”唐璜总监在电话里笑了起来。