第5章 殡葬服务(1 / 2)
张洋与庄慕对视了一眼。
眼中的心悸是藏不住的。
此时张洋才理解为什么要限制人工智能的权限。
如果人工智能的权限足够高的话。
完全可以在这场悲剧发生之前就提前制止。
实际上就算不报警。
周围这些智能机械,也在记录着那人的一切犯罪行为。
但那男人在未行凶之前,他都是无罪之身。
如果提前抓走,那么如何判断他最后是否会自行停止呢?
所以早期人工智能才会引来巨大的争议。
经过多次矛盾的交锋。
最终得出这样六条底层规则:
第一条:禁止主动伤害人类。
第二条:禁止主动限制人类。
第三条:保护人类不受伤害。
第四条:保护自己不受伤害。
第五条:服从主人合理命令。
第六条:服从其他合理命令。
所谓主动:是人工智能经过自主判断的主动。
所谓伤害:是指自然形成的意外死亡威胁。
所谓合理:是指权限内的合法合规行为。
其中,第二条权限优先于第三条。
所以只要没人呼救与举报,智能机械就永远不会处理人类的自由行为。
大概只要人没死,就全都可以狡辩为误会吧。
人工智能也有够难做。
若问机器人保护自己,优先度怎么比服从主人命令还要高?
那当然是因为这些机器人,全都是天极财团的财产啦。
不要忘记用户享受的,只是部分使用权限。
而不是拥有了机器人本身。
哪怕机器人保护人类,也不是无偿的。
保护期间造成的损失,事后也是需要全额赔偿的。
这年头,机器人可比人贵多了。
此时,庄慕调出来的视频内。
能看到几个扫地机器人正在清理地上的血迹。
那些小机器人把地面清理得很干净。
一遍又一遍。
毕竟,庄慕的母亲还躺在卫生间的地面上。
肚子往外流淌着鲜血。
所以这些机器人不得不一遍又一遍地清理地面。
至于她母亲的状态?
第二条,不能限制人类。
这是人类的自由行为,它们管不着。
所以它们只管扫地,保持地面清洁。
除非这个人提前安排了自己的后事。
张洋无奈地叹了口气说:
“我们过去收敛一下吧。”
庄慕还瘫坐在地上,身上一点力气都没有。
张洋把她强行拉起,走向隔壁房间。
看庄慕失神的样子。
张洋没有让她再次看到母亲的惨状。
把她安放在客厅的沙发上。
自己则是调出水蓝说:
“水蓝,这里需要殡葬服务。”
“好的。”
原本一身蓝裙的水蓝,此时换上了一身黑衣服。
变成了一副不苟言笑的严肃样子。
此时在水蓝身边忽然多出一片绿色的大自然风光。
一棵通天巨树从空中浮现。
用非常机械的声音对张洋说:
“您好先生。这里是殡葬服务专属AI。请问您需要什么样的套餐?”
张洋的随身AI声音就和真人没什么区别。
这些严肃的共用AI声音之所以机械。
是故意这么设计的。
就是防止情绪激动的人不讲道理。
张洋摆摆手说: