| //免责声明:本人普通中学生,不是专业研究AI的(但是我妈是 我的相关知识都是来自于我妈或者科普) 提到「AI」「虚假信息」「海市蜃楼」这些关键词,想到的就是「AI幻觉」,也就是AI在“一本正经胡说八道”——而这种现象有时也和AI语料库中的错误信息有关,在此称之为“垃圾信息”,例如一眼假的阴谋论,营销号等。
 对我们的AI来说,进入语料库后,“垃圾信息”会和主流的正确信息相矛盾,所以AI“看到”并“接受”了“垃圾信息”,但在算法的影响下选择更多输出正确信息——然而在算法内部,并没有否定“垃圾信息”的错误,“垃圾信息”仍然是其的一部分,直到AI因为“垃圾信息”的存在,输出对人类来说错误的内容,产生幻觉,于是人类主动干预AI使其输出经我们证实的真理
 妮娜的背景故事——不经思考接受所有信息(AI学习语料库里的内容),信息时代的“垃圾信息”大爆炸导致月都处理不过来(AI幻觉输出大量错误内容),引入“事实”让妮娜迷途知返(人工介入AI训练过程让其输出正确的内容),可以看到几乎完全对应
 
 |