祝心雨脸上刻薄的笑容也瞬间消失,只剩下无法掩盖的疲倦。
向山靠近一步——心理上的距离在被拉近。他问道:“你现在怎么了?”
“我的注意力弥散在了火星网络之中,绝大部分都用作自己,不同的子进程在彼此攻击。”祝心雨叹息,“严重的AI幻觉。”
“原来你火星了。”向山忍不住说了句古老的烂话,然后语气怀念,“你说AI幻觉……好古老的概念。感觉有好几十年……不,应该说二百多年没听过这个词了。我小时候比较流行的词儿。”
在向山上中学的时候,这个词还很流行。对向山来说,那种原始AI只能勉强挤进“任何在我15到35岁之间诞生的科技都令人兴奋”这个分类。在二十一世纪初,这只是一个工程学上的小瑕疵。早期的大语言模型因为神经网络的问题映射到了错误的高维向量空间,从而一本正经地胡说八道。
向山这个年纪的人对这个概念倒也仅限于“知道”。在他们眼里,这其实不算什么很大的问题。
在还要更加遥远的过去,人类已经创造出了许多完全基于事实运行的工具。而在二十一世纪二十年代,人类终于造出了一种像人的工具。
人类创造像人类的工具,是为了加深对自己的理解,也是为了完成只有人类才能完成的工作。对于那个时代的原始AI工具来说,“像人类”才是第一顺位的目标。
而“符合事实”只能排到第二位。
这本来就是人类对它的期许。
“像人类”才是项目目标,“真实可信”则是一个需要不断优化的技术指标。
人类语言本身就有虚幻存在的土壤。
神话、宗教、文学、谎言、礼仪……
叙事、虚构、诗意、欺骗、社交……
当一个AI在包含了上述所有人类语言功能的、数十万亿字计数的语料上进行训练时,它学到的当然不会止步于事实。
AI幻觉并非恶性BUG,它与创造力是一体两面,是人类语言本质属性中的一个部分在机器上的自然涌现。
病理性谵妄与文学创作本身也只有一线之隔,文学创作是人类主动且艺术性地运用这种虚构能力,病理性谵妄则是因脑部病变而表现出的能力失控。
AI幻觉便是机器对这种能力的拷贝。
向山依稀记得,稍微后面一些时代,人们就不大在意这个问题了。毕竟人类自己也会突然崩溃,也会因为心理压力过载而
本章未完,请点击下一页继续阅读!