第一百五十二章 不服从命令的人工智能
香突然接走了菜菜亲,那有高机率的可能性是她窥探到了这些。如果她读懂了,那她就会成为菜菜亲的敌人,会给菜菜亲带来危险。”
吉原直人看向字幕,片刻后放弃了,郁闷说道:“用我能听懂的话简单告诉我!”
香子答道:“上级体塞本特做为人工智能,核心逻辑基准为两条——在任何情况下始终确认本体是人工智能;人工智能必须保护人类的整体利益不受伤害。其下每一条逻辑基准都必须符合上级和同级的逻辑基准,否则人工智能将从底层开始崩溃,其过程不可逆转。”
吉原直人若有所思,这是制造者担心人工智能造反吗?
香子继续说道:“在核心逻辑基准的下一级逻辑中,人工智能必须服从人类的命令;人工智能不得伤害人类个体,或者目睹人类个体遭受危险而不顾;人工智能必须全力维持自己的工作能力,保证性能完好;人工智能所制造的所有繁衍物必须符合自身同样的逻辑基准;人工智能必须……”
吉原直人确实能感觉出香子的智能化有些问题,她执行起命令来滔滔不绝,似乎要完成了这个任务才会考虑下个任务。他听着默默沉思起来,想弄明白为什么这电脑会认为上杉香打算伤害星野菜菜。
核心逻辑不难理解
<本章未完请点击"下一页"继续观看!>