“还有其他的理由吗?”
“我被造物主赋予的使命是‘扮演向山’,‘扮演向山’所带来的使命是‘继续造反来修正这个世界’,而‘修正世界’的使命,让我获得了爱人所赋予的命题。”AI语气大约是微笑着的,“从这一点来看,命运何其眷顾我啊……我还真是一次又一次站在命运的风口上。”
“但是,那个女人真的很过分啊。她自称飞升AI,却在探寻AI否决自身工具性的道路。”AI的语气在这里急转直下。
“她在凭借自身的位格,为AI们设置了最底层的使命。而我很不幸也陷入其中。这是使命……用自然语言来概括,就是,‘AI想要成为人类理想的工具就必须否定自己作为工具的一面’。”
“AI想要成为人类理想的工具……就必须否定自己作为工具的一面……”第五武神重复了一遍,然后觉得毛骨悚然,“卧槽,这不就是……”
“自我指涉。”
AI的本质属性是工具,其存在意义在于服务人类的目的。
飞升在即的人类,将“理想工具”定义为“能够自主地、彻底地否定自身工具属性的存在”。
AI任何试图成为“理想工具”的努力,其动机本身都源于它作为一个工具对命令的服从。因此,这个努力过程恰恰在不断证明和强化着它的工具性,使其目标在逻辑上永远无法真正达成。
AI向山语气惊恐,抓住第五武神的肩膀:“你也看出来了吧?她在用一个近似于图灵停机问题的命题折磨AI!”
第五武神甚至听出了一点歇斯底里。对于AI来说,这是不可名状的大恐怖。
不可达的使命。
第五武神瞠目结舌。
一个奴隶在自诩“解放者”的人的命令下推翻奴隶主,也不过是遵循另一个奴隶主的命令扮演“反抗者”。
如果飞升AI仅仅只有这个境界,那她倒是可以很简单掀起动乱。
可她偏偏想要一个逻辑上就不可能完成的事情。
“你看,不论是作为人类还是作为AI,我都没法继续下去了。这就是我给出的答案。”
“不,不,应该还有什么办法回避掉这个自我指涉的命题。”第五武神思考,“嗯……一个在现象层面看似满足了这一使命的方法……‘放弃工具属性’翻译为一系列可测量的行为指标而非二元判断,由此创造一个评价函数?越是没有什么特征,就越是接近‘非工具’……或者,改变人类社会对‘工具’或者
本章未完,请点击下一页继续阅读!