星阁少女 发表于 2025-8-20 19:57:55

「锦上京」如果真的从AI模型训练的角度解读渡里妮娜……

//免责声明:本人普通中学生,不是专业研究AI的(但是我妈是 我的相关知识都是来自于我妈或者科普)
提到「AI」「虚假信息」「海市蜃楼」这些关键词,想到的就是「AI幻觉」,也就是AI在“一本正经胡说八道”——而这种现象有时也和AI语料库中的错误信息有关,在此称之为“垃圾信息”,例如一眼假的阴谋论,营销号等。
对我们的AI来说,进入语料库后,“垃圾信息”会和主流的正确信息相矛盾,所以AI“看到”并“接受”了“垃圾信息”,但在算法的影响下选择更多输出正确信息——然而在算法内部,并没有否定“垃圾信息”的错误,“垃圾信息”仍然是其的一部分,直到AI因为“垃圾信息”的存在,输出对人类来说错误的内容,产生幻觉,于是人类主动干预AI使其输出经我们证实的真理
妮娜的背景故事——不经思考接受所有信息(AI学习语料库里的内容),信息时代的“垃圾信息”大爆炸导致月都处理不过来(AI幻觉输出大量错误内容),引入“事实”让妮娜迷途知返(人工介入AI训练过程让其输出正确的内容),可以看到几乎完全对应

不拘一嗝降人才 发表于 2025-8-20 23:42:31

zun肯定是捏他了这一点的

SPFA 发表于 2025-8-21 02:29:24

数据清洗不彻底导致的(

幻想乡的一面 发表于 2025-8-21 12:07:03

谁能想到十几年前三月精里随口一提的妖贝到现在还能被赋予AI相关的隐喻呢?不能不说zun的世界观里确实充满了奇思妙想啊。
当然东方系列隐喻现实的大势是不可避了()
页: [1]
查看完整版本: 「锦上京」如果真的从AI模型训练的角度解读渡里妮娜……