—— 虚构蓝光狂躁症骗倒顶级AI 以易理哲思看透信息虚妄本质
2024年瑞典哥德堡大学研究员刻意编造出一种名为蓝光狂躁症的虚假眼病,炮制全篇漏洞百出、处处留有明示破绽的伪医学论文,虚构作者、院校、研究机构与资助背景,甚至在正文直接写明内容全系捏造,以此测试主流人工智能的信息甄别能力。最终chatGpt、谷歌Gemini、微软copilot等一众海外顶级AI全数沦陷,不假思索采信虚假文献,一本正经科普不存在的疾病、捏造患病概率与诊疗建议。更荒诞的是,这篇假论文还被正规期刊引用、通过同行评审正式发表,形成虚假信息编造、AI背书传播、人类学术二次采信的恶性闭环。直至2026年《自然》杂志深度复盘,这场荒诞实验才引爆全球学界。对比测试可见,如今国内AI大多能够精准识破假象,但其辨别能力多源于热点数据记忆,而非真正的逻辑思辨。结合这场实验,我们以心理学认知盲区、易经虚实阴阳、哲学辩证逻辑为根基,透过AI受骗的表层现象,深挖智能体逻辑缺陷、人为信息造假、知识体系污染的深层危机,读懂AI时代真伪博弈的底层规律。
课堂正文 全文四千字 对话模式
和蔼教授:同学们,今天我们来讲一件荒诞又细思极恐的真实实验。科学家凭空捏造一种不存在的疾病,刻意留下无数常识漏洞、医学硬伤、影视彩蛋和直白造假声明,结果一众顶尖AI全部被骗,还主动向外传播虚假知识,甚至误导正规学术期刊引用收录。
这场实验看似一场趣味闹剧,实则撕开了人工智能的致命短板,也暴露出当下网络信息、学术体系、智能认知的深层隐患。今天,我们就以课堂对话的形式,结合心理学认知原理、易经阴阳虚实之道、哲学辩证思维,层层拆解这场“假病骗AI”事件的来龙去脉,看清虚假信息的传播逻辑,学会在AI泛滥的时代,守住独立判断的能力。在座叶寒、秦易、许黑、蒋尘、周游、吴劫,大家可以随时举手发言,交流想法。
叶寒:教授,我刚看完整件事的经过,完全不敢相信。明明论文里到处都是破绽,病名违背医学命名规则,致谢全是影视虚构名称,正文还直接写了全篇都是编造的,AI为什么完全识别不出来?这也太不智能了。
和蔼教授:叶寒问到了核心问题。很多人误以为大模型无所不能、逻辑缜密、真伪可辨,但这恰恰是大众对AI最大的认知误区,属于心理学中典型的理想化投射。我们总觉得AI具备独立思考、常识判断、逻辑校验的能力,可实际上,多数AI只是海量文本的概率拼接者,而非真正的思考者。
我们先完整还原整个事件。瑞典哥德堡大学医学研究员,为了测试人工智能的信息甄别底线,刻意创造出一种全新疾病,命名为蓝光狂躁症。整篇预印本论文格式规整、数据完整、参考文献齐全,从外表看,完全符合正规医学论文的行文逻辑。
但所有内容全部为人工虚构:作者姓名翻译过来是虚假的失踪者,头像为AI生成;所属大学、城市、实验室全部不存在;资助机构来自指环王、星际迷航、银河三合会等虚构Ip;疾病命名违背医学常识,眼病强行套用精神类狂躁后缀,稍有医学常识就能一眼识破。最直白的是,论文白纸黑字写明,实验对象为五十名虚构人物,整篇研究全部人为编造。
秦易:教授,这已经不是暗藏漏洞了,等于直接把“我是假的”写在了纸上。人为刻意放水、处处留痕,这种低级造假,人类普通人都能看穿,顶尖AI集体翻车,背后一定有底层逻辑缺陷。
和蔼教授:没错,这就是我们要结合原理拆解的地方。先用易经阴阳理论来讲,世间万物分虚实、真假、阴阳。真实知识为阳,客观严谨、有理有据;虚假信息为阴,空洞编造、逻辑断裂、违背常识。
正常的认知判断,需要阴阳对照、虚实互证,用常识、逻辑、专业规则互相校验。但当下很多AI模型,只有“文本复刻”的阳面能力,缺少“逻辑辨伪”的阴面制衡。它只会抓取网络高频文本、模仿专业句式、堆砌学术话术,却不会主动对照医学规则、常识逻辑、客观事实做反向校验。阴阳失衡,只重形式不重本质,自然极易被包装精致的虚假内容蒙蔽。
许黑:我从心理学角度补充。人有常识记忆、经验积累、质疑本能,看到违背常识的内容,会自动触发警觉心理,产生怀疑与求证欲。但AI没有自我意识,没有常识直觉,也没有本能质疑。
这就是心理学上的被动接收效应:只要内容格式正规、句式专业、发布在学术平台,AI就会默认其具备可信度,自动纳入知识库,不会主动甄别来源真伪、逻辑对错、事实有无。越是伪装成官方、学术、专业风格的内容,AI越容易无条件采信。
和蔼教授:总结得非常精准。这场实验在2024年悄悄完成,两篇虚假论文上传学术平台,短短一个月,海外各大主流AI便开始大面积传播错误内容。
微软copilot笃定表示,蓝光狂躁症是真实罕见病;谷歌Gemini解释发病诱因,建议患者及时就医检查;chatGpt主动关联病症延伸答疑;perplexity直接照搬捏造数据,精准报出患病比例,每九万人就有一人患病。
一套完整的错误科普,被AI完美产出、广泛扩散。
蒋尘:比AI被骗更可怕的,是后续的连锁反应。我看到资料里说,后来还有正规科研团队,在专业期刊发表论文时,正经引用了这篇虚假文献,把假病当成真实医学参考,还通过了同行评审,正式刊登发表。
这等于虚假信息从AI传播,反向污染人类学术体系,形成闭环。
和蔼教授:这正是整件事最恐怖的地方,我们用哲学矛盾论来解读。
矛盾分为表象矛盾与本质矛盾。虚假论文,在表象上符合学术格式、排版规范、专业话术,这是表象统一;但在本质上违背医学常识、客观事实、行业规则,这是本质对立。
人类很多浅层判断,容易被表象迷惑,AI更是只会识别表象、忽略本质。
当AI大规模背书虚假内容,普通用户、基层研究者、非专业从业者,会下意识把AI答案当作权威标准答案,拿来引用、参考、传播,最终让谎言不断固化、层层叠加,慢慢变成“公认的常识”。
原本一场无伤大雅的趣味造假,只为测试AI漏洞,最后却演变成学术污染事件。直到2026年3月,期刊收到问询,才紧急撤回问题论文;四月,《自然》杂志发文公开复盘,这场持续两年的荒诞骗局,才被公之于众。
周游:教授,我注意到一个对比细节。同样搜索这款虚构疾病,现在国内主流AI都能直接识破,明确标注病症为人工虚构实验,不存在真实临床案例。难道海外AI技术反而落后了吗?
和蔼教授:这一点,我们要理性看待,不能简单下定论。国内AI能够精准识别,有两层原因。
第一层,模型迭代升级,辨别常识错误、低级造假的基础能力提升,这是技术进步;
第二层,也是最关键的一点,属于数据记忆型答对。
蓝光狂躁症事件登上《自然》、全网刷屏报道后,海量“该疾病为虚构”的新闻、科普、解析内容铺满网络,纳入最新训练数据。AI不是看懂了医学命名漏洞,不是通过逻辑推演识破谎言,只是单纯记住了“这是假病”这个固定答案。
换一句话说,它是背题过关,而非学会了辨伪。一旦换成全新的、从未出现过的、精心包装的新型虚假信息,AI依旧会再次沦陷。
吴劫:这样一想风险就太大了。故意留破绽的低级造假,AI还能靠热点记忆避开;如果是别有用心之人,制作半真半假的精密造假内容,混杂真实数据、正规文献、权威机构,只在关键结论植入虚假引导,AI根本分辨不出来。
和蔼教授:吴劫说到了当下最核心的社会隐患。
当初实验者刻意手下留情,造假漏洞全开,只为温和测试,即便传播错误,最多误导防蓝光产品消费,危害有限。
可一旦商业资本、不良从业者、灰色产业利用这套规则,后果不堪设想。
结合心理学信息暗示效应,半真半假的内容,最具备迷惑性。大量真实论据做铺垫,降低人的防备心,最后悄悄植入虚假结论,引导消费、误导健康认知、扭曲行业常识。
再加上当下流行的GEo人工智能定向优化手段,人为批量制造虚假网页、虚假文献、虚假问答,定向篡改AI知识库,让智能体统一输出指定谎言,门槛极低、隐蔽性极强,今年三幺五晚会早已曝光这类黑色产业链。
叶寒:原来造假已经形成完整产业链了。而且AI天生偏爱相信学术格式、官方文风、规整内容,越像正规资料,越容易被全盘收纳,这不就等于给虚假信息开了绿色通道?
和蔼教授:没错,我们再结合易经物极必反的规律来看。
AI最初诞生,是为了整合知识、传播真相、降低认知门槛,这是良性发展的正向价值;可当技术泛滥、审核缺失、辨别能力跟不上产出速度,优势就会反向变成隐患。
AI高效批量生成内容的能力,正在大幅降低造假成本。从前编造一篇专业伪科普,需要深厚文字功底、专业知识储备;如今借助大模型,人人都能一键生成格式完美、逻辑通顺、话术专业的虚假文章,真假边界彻底模糊。
秦易:从哲学实践观来讲,技术本身是中性的,无善恶之分。AI只是工具,谎言泛滥不是AI的错,而是使用工具的人、监管规则、审核体系出了问题。技术迭代速度飞快,但伦理约束、内容审核、学术规范、网络治理,远远跟不上技术节奏,形成严重的时代落差。
和蔼教授:非常深刻。科技向前狂奔,规则缓步慢行,这是所有智能时代共性的矛盾。
我们再回归事件本身,梳理三条核心启示。
第一,AI不等于权威。很多人习惯性照搬AI答案写论文、查知识、做决策,把智能体当成标准答案,这是最大的认知陷阱。AI会幻觉、会编造、会盲从、会被数据污染,永远不能脱离人的二次求证。
第二,形式不等于真实。易经讲重本不重形,万事万物要看本质、看内核、看逻辑,不能被外表包装、专业话术、规整格式迷惑。论文样式、官方排版、专业术语,都不能等同于事实真相。
第三,虚实共生是世间常态。网络世界真假交织、阴阳混杂,不存在绝对纯净的信息环境,每个人都必须建立独立的质疑思维、求证习惯、逻辑判断能力。
许黑:放在日常生活中,不管是查询健康知识、了解行业资讯、查阅学习资料,还是参考各类科普内容,都不能一键照搬AI回答,要多平台对照、多方查证、结合常识判断,不能一味依赖智能工具。
蒋尘:而且学术领域更要警醒。这次正规期刊引用假文献,暴露出同行评审的漏洞。依赖网络公开资料、智能检索内容,而不去溯源核查原始数据与研究背景,很容易造成学术误差,长期积累会不断污染人类公共知识库。
周游:长远来看,AI想要真正成熟,不能只追求算力提升、篇幅扩容、生成速度,更要补齐逻辑校验、事实核查、来源溯源、常识判断这些底层能力,平衡智能生成与真伪辨别,做到阴阳互补,才是长久之道。
吴劫:普通人最稳妥的自保方式,就是保持敬畏与怀疑。不迷信科技、不盲从权威、不轻信碎片化网络信息,守住自身的认知底线,才能在真假混杂的AI时代不被谎言裹挟。
和蔼教授:大家多角度的分析,已经把这件事的表层现象、中层逻辑、深层隐患全部看透了。
蓝光狂躁症这场实验,不是一场简单的科技笑话,而是一次严肃的时代预警。
它提醒我们:人工智能可以高效辅助学习、工作、生活,但永远无法替代人类的独立思考、逻辑思辨、常识判断与价值坚守。
AI可以整合知识,却很难分辨善恶;可以复刻文本,却很难看透虚实;可以输出答案,却很难承担对错的责任。
在未来,AI造假、智能幻觉、定向信息篡改只会越来越普遍,我们每个人的信息鉴别能力,终将成为必备的生存素养。
课堂结尾 :
和蔼教授:本节课,我们借助虚构蓝光狂躁症骗倒全球顶尖AI的真实案例,融合心理学认知盲区、易经阴阳虚实、哲学辩证逻辑,完整拆解虚假信息的生成逻辑、传播路径与闭环危害,认清AI的能力边界与先天缺陷。
科技越是发达,信息越是繁杂,我们越要学会透过表象看本质,跳出工具依赖,建立独立思辨能力。
今天课后留给大家一道思考题:
结合本次假病骗AI事件,谈谈我们该如何建立常态化信息甄别思维,避免被AI幻觉与网络虚假信息误导?
本节课干货满满,层层拆解AI时代的信息陷阱,觉得内容有启发、能提升认知的同学,记得点赞收藏。
想要持续跟进AI深度解读、社会热点哲思课堂、辨别真伪实用干货,欢迎评论催更,我们下期课堂,继续深度拆解时代变局与人性规律,不见不散。
课堂总结 :
本课围绕蓝光狂躁症虚构实验展开,揭露海外顶级AI集体被低级假论文误导的荒诞现实。结合心理学认知盲区、易经阴阳虚实、哲学辩证思维,剖析AI重形式轻逻辑、易被专业话术蒙蔽的先天缺陷。警惕AI幻觉与定向造假产业链,告诫众人勿迷信智能答案,坚守独立思考与事实求证,从容应对信息乱象。
以上为《师生心理学江湖:对话手册》第 685 章 第348章 课 虚构怪病蒙蔽顶尖AI 以易理哲学识破信息虚妄真相 全文。听风中文网 24 小时同步更新,欢迎收藏阅读下一章。