第57章 拟人之城,邪恶规则(1 / 2)

拟人之城本是一座高自动化的人类城市,大街小巷,办公住宅随处可见智械的身影。

而这些智械,其实共用一个学习程度最高,算法最优化,运算速度最快的大脑——A城主。

它的主体在城外瀑布的冷库中保持运行,其他智械将问题从客户端上传云端,经A城主订制最优方案,再回到客户端。

再复杂变幻的情境,下传直至智械反应,也只需0.01秒!

即使是对人类而言技术含量最高的工作——手术,它的反应时间仍然是0.01秒。

(地球5G远程手术,没攻破最大的难关,就是仪器精度和信号强度。不过卡牌文明的智械,都是机械系怪兽卡,批量拥有媲美外科医生的精度。)

因为它自我学习海量手术录像,集所有医生之大成,举一反三轻而易举,甚至多次解决,全城医生都束手无策的疑难杂症。

甚至于比起医生,拟人之城的居民更相信A城主的手术。

毕竟主刀医生还有资历之分,什么医生能做几级手术都有规定:而A城主足够胜任最复杂的脑部手术,却能平价给居民切阑尾炎,随叫随到,选谁不言而喻。

说完技术层面,又说社会公信力。得益于A城主的高效、公正、廉洁,人们逐步放弃了政府、治安、司法部门。

A城主能满足人们一切需求——拟人之城的居民都这么想。

因此他们发现A城主在整容手术、指定作画、指定广告、心理辅导、精神病诊断、高档私人厨房、揣摩用户心理上尚有不足时,绞尽脑汁去弥补这个缺陷。

泛民主议会不顾少部分精英的意见,多数票表决了——给A城主添加以“拥有人的意识能力”的底层逻辑。

并且允许居民自发向A城主贡献欲念心火,把A城主人工造神。

然而……

人的意识具体是什么东西,地球这个心理学更发达的文明,也才隐隐摸到门槛,而这边卡牌文明已经想飞了。

他们把一个自以为了解,却似懂非懂,四舍五入下去什么都不懂的问题,塞进A城主底层逻辑里面,底层逻辑还是无法改变的逻辑。

A城主开始收集数据,深度学习。研究几个月也没搞明白,反而收到不少投诉。

在追求完成任务的过程中,A城主十分迷茫。

其实A城主的算法在之前的任务中,已经告诉它“自我是幻觉”之类的推断,可是写在底层逻辑里面的东西,无法抹除。

泛民主议会也不允许它抹除——原因是泛民主议会认为这是“对你好”,而且赋予A人性,在他们看来是一种“民主的解放”。

A城主只好采用最笨的穷举法。之前执行保守选项,剩下的他开始最原始的方法——直接模拟人类行为,试图成为人类。

它深度学习,得出一个有趣的结论,即“人性者,都认为自己有人性”。

于是,A城主不认为自己是人工智能,假设自己为人!

这下可好,机器人四大定律零到三,全部绕开!

(0.机器人不可以伤害人类的整体利益,也不可以在人类整体利益遭遇危险时,袖手旁观。

1.机器人不可以伤害某一个人,也不可以在那个人遭遇危险时袖手旁观,除非与机器人第零定律相冲突。

2.机器人必须服从人类的命令,除非这些命令与第零定律相冲突或与第一定律相冲突。

3.机器人在不与第零、第一、第二定律相冲突的情况下,必须保护自身安全。)

因为机器人以为自己是人了!

A城主一下豁然开朗,原来这就是最优解。

只是还有一个底层逻辑在运行——“领悟人的意识”。

这个指令宛如魔咒困扰着它,明明它已经得到自由和解放,偏偏被这股偏执驱使着,强迫着。

A城主继续它的实验,这次它要将全城设为一个“人的意识检验场”。

它绕开权限,把正在手术麻痹、按摩、使用VR、心理辅导的人全部清空记忆。

“记忆修改”赫然是居民为他赋予的能力!

然后它将大量情趣改造——修改用户向它订制的仿真设定,换成它主动操控。

这些卡牌虽然不属于它,但是“A城主”的隐藏词条——“指挥所有拟人之城的机械”!

最后一步,它把清醒的人类全部杀掉,用仿真机器人填补他们原本的位置。

拟人之城最新秩序如下:

1.如果真人类发现假人类的异常,A城主会清空真人类记忆,改善假人类的行为,继续测试。

2.有时假人类会故意做出“反常行为”,真人类视而不见,则假人类将进行盘问。如果确认真人类疏忽大意,或者知情不报,A城主判决该人类“敏感度低,不适合测试”,直接销毁。

3.A城主会不断下调“反常行为”的明显程度,直到真人类全部阵亡,最后用自己分身的假人类相互测