欢迎回来
登录你的知识库账户
忘记密码?
还没有账户?立即注册
创建账户
注册你的专属知识库
已有账户?去登录
找回密码
输入注册邮箱获取验证码
返回登录
请输入图片中的验证码以继续注册
加载中...
取消
新建收藏
手动添加你喜欢的内容
取消
编辑头像与昵称
上传新头像或修改你的显示昵称
支持 JPG/PNG,最大 2MB
取消

问题反馈

notebasewww.notebase.cn
控制台
内容库
动态
管理
账户
U
用户
--
在线
v0.8.7 · 知识库
笔记
KnowledgeBase
网络无边,知识有迹。
0笔记
0工具
30推荐

分类导航

按主题直达

编辑精选

站内用户贡献 · 真实笔记

最新收录

每日更新
继续浏览全部内容 →
>
笔记
0
加载中...
工具
0
此页用于记录用户反馈问题后的每一次改进
笔记用法

“写笔记”支持四种格式——Word 文档、Excel 表格、Markdown、纯文本,起稿或二次编辑时都能随时切换,同一篇笔记想用哪种形态来记,都由你说了算。

md、txt、csv、json 这类纯文本则原样载入,不做多余加工。拿一张现成的表倒进来、改几笔、再导出去,等于白用一台免费的格式转换器。

要带走就在右上角点“下载”,可导出 PDF、Word、Markdown、Excel、TXT 等格式;列表卡片“⋯”菜单里,也有同样的下载入口。

工具用法

在“工具”页点“+ 上传工具”即可发布:填好名称与链接,再用 Markdown 把使用方法写清楚——能解决什么问题、怎么装、怎么用,比堆介绍实在。

要分发安装包就一并上传压缩包(ZIP、RAR、7Z、TAR.GZ,最大 35MB),别人在详情页一键下载;只放链接不带附件也可以。

工具按大家的收藏热度排序,好用的自然会被顶上来。发布后可在详情页或卡片菜单里编辑、下架。

隐藏笔记

写笔记时勾上“隐藏”,这篇就只存在于你自己的账号里:不进列表、不进搜索、不上首页精选,也不会出现在任何公开的页面,链接发给别人同样打不开。

适合放密码、草稿、日记这类只给自己看的内容;想公开,去“发布”打开它,把“隐藏”的勾去掉再保存,之后编辑会默认保持原状态,不会悄悄变回公开。

数据安全

你的内容会同时保存在多个副本上,系统定期做备份与完整性校验,再配合异地容灾机制:就算某台机器出问题,数据也不会丢,可以长期放心存放;特别重要的资料,仍建议你另外再留一份备份。

技术

全站跑在容器化、模块化的现代架构上,更新、部署、回滚都很快,扩展性和稳定性都按长期运营的标准来设计(Built for reliability, designed to scale)。

理念

这个网站最早只是一个人的笔记仓库,后来慢慢长成现在的知识中枢。设计上很克制——没有广告、没有追踪、没有推荐算法,只是干干净净地存放一些东西;既然做好了,就公开出来,万一有人用得上呢。

原则

不做大而全,不做平台梦,保持简单、保持克制、保持好奇。所有内容都由用户贡献、由用户维护:不会突然冒出付费墙,不会在角落塞广告位,也不会把你的数据卖给第三方。

更多

产品会持续迭代,站内日志页记录着每一次改动,改了什么都有迹可循;想了解这个站是怎么一步步走到今天的,翻翻日志就能看到来龙去脉。

举报

如果在这里看到涉嫌违规的内容,点对应卡片右侧的“举报”按钮就能提交,我们会尽快核实处理;也谢谢你花一点时间,一起把这里维护干净。

趋势
// 点击导航加载发现
归档
// 归档为空
最近浏览
// 暂无浏览记录
发布
// 加载中...
用户发布
// 加载中...
用户管理
// 加载中...
访问统计
// 加载中...
内容审核
// 加载中...
个人信息
// 加载中...
返回首页

“随机鹦鹉”五周年:Emily Bender 澄清原文,拆解大语言模型的真实本质

2026/7/6人工智能

原文澄清“随机鹦鹉”并非贬低语言模型无用,而是揭示其统计模仿无理解的本质,并批判“人工智能”一词的误导性。

背景:一篇引发争议的论文

2021年3月,四位研究者(语言学家与计算机科学家合作)发表了里程碑式论文 《论随机鹦鹉的危险:语言模型能太大吗?》("On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?")。该论文当时获得巨大关注,部分原因在于两位作者 Timnit Gebru 和 Margaret Mitchell 在论文发表前不久被 Google 解雇。

论文核心论点:大型语言模型(LLM)生成文本的方式是基于统计预测最可能的词序列,而非真正理解语义。作者用“随机鹦鹉”(stochastic parrot)这一比喻来描述这种系统——它像鹦鹉一样重复模式,但毫无理解能力。

五年后的今天,这个比喻已远远超出学术界,激发了各种讨论和项目(例如一个名为“随机鹦鹉”的肩扛式机器人)。然而,广泛传播也带来了误解。论文第一作者、华盛顿大学计算语言学教授 Emily M. Bender 最近在论文五周年之际撰写了一篇博客文章,澄清常见的误解。她接受了 IEEE Spectrum 的采访,深入探讨了这些误解、计算语言学领域以及当前关于人工智能的讨论。

核心误解澄清

1. “随机鹦鹉”不是否定语言模型的价值

许多人认为“随机鹦鹉”是在嘲笑语言模型毫无用处。Bender 强调,这个比喻恰恰指出了 LLM 运作的核心机制:它们通过海量文本数据学习词语之间的统计共现模式,从而能够生成语法正确、甚至看似合理的文本,但它们并不具备对世界、常识或逻辑的真正理解。

例如,一个模型可以流畅地写出“太阳从西边升起”,因为它见过类似句式的搭配,但模型不知道这是违背物理事实的。这种“鹦鹉学舌”式的模仿,在缺乏真实理解的情况下,会产生看似合理实则错误、甚至有害的内容。

2. 论文不是反对所有语言技术

Bender 澄清,论文并非反对语言技术本身。她本人就是计算语言学家,致力于构建机器可读且人类可读的语法模型,用计算机来检验语言学假设。她认为语言技术本身是有价值且有趣的,无论是否有人想用它来实现“人工智能”的宏大目标。

语言技术包括:自动转写、机器翻译、拼写检查等。这些技术可以基于规则、统计或神经网络,但关键区别在于:它们的设计目标明确,且通常有可解释的机制。

3. “随机鹦鹉”是对“理解”的警示,而非对“生成”的否定

论文的核心警告是:当我们把 LLM 的输出误认为是“理解”或“智能”时,危险就产生了。例如,在医疗、法律、教育等高风险领域,如果用户盲目信任模型生成的“正确”答案,可能造成严重后果。

Bender 指出,即使模型能通过图灵测试式的对话,也不代表它具备心智或意识。它只是在执行极其复杂的模式匹配。

“人工智能”一词的误导性

Bender 在采访中深入批判了“人工智能”(AI)这个术语。她认为这个术语遮蔽多于澄清,原因如下:

1. 混淆不同的技术

“人工智能”把完全不同的技术混为一谈。例如:

  • ChatGPT、Claude、Gemini:基于大型语言模型的聊天机器人,本质是统计文本生成。
  • AlphaFold:用于蛋白质结构预测的模型,基于生物物理和深度学习。
  • 天气预测模型:基于物理方程和统计建模。

这些技术背后的原理、数据需求、可靠性、可解释性完全不同。用同一个“AI”标签,会让人误以为它们有相似的局限或能力。

2. 过度推销

“人工智能”一词带有强烈的科幻色彩和营销价值。科技公司用它来抬高估值,而不是准确描述产品。Bender 说:“如果你试图决定是否使用某样东西,或者如何监管它,更清晰的描述会让你做出更好的决策。”

3. 研究资助的扭曲

当前研究资助体系下,如果不把研究称为“人工智能”,就很难获得经费。这导致许多研究者被迫将工作贴上 AI 标签,即使其本质是统计建模、语言学或工程优化。Bender 认为这是净负面影响。

计算语言学 vs. 人工智能

Bender 解释了她作为计算语言学家的日常工作:

“语言学,广义上,是研究语言如何运作以及我们如何使用语言。我贡献于这一领域,同时也从事计算语言学,培训学生去构建语言技术。”

她强调,语言技术可以独立于“人工智能”项目而存在。例如:

  • 构建机器可读且人类可读的语法:形式化描述某种语言的语法规则,既可供计算机处理,也便于语言学家检验理论。
  • 用计算机进行语言学假设检验:通过编程验证某个语法规则是否覆盖所有语料,而不是依赖直觉。

这与当前流行的“用海量数据训练黑箱模型”路径截然不同。前者追求可解释性、可控性、准确性;后者追求规模、流畅性、泛化能力,但牺牲了可解释性。

当前 AI 讨论中的问题

Bender 指出,当前关于 AI 的公共讨论存在严重缺陷:

  1. 术语滥用:人们常说“我用 AI 做某事”,但“AI”具体指什么?往往是 ChatGPT 或 Claude。但当批评 AI 时,又会有人说“你不能说 AI 全是坏的,AlphaFold 不是很好吗?”——这混淆了不同技术。
  2. 新闻误导:报道“科学家用 AI 发现新药”,实际可能只是用蛋白质折叠模型,与聊天机器人完全不同。
  3. 公众认知偏差:公众对 AI 的理解被科幻作品和公司营销扭曲,期望过高或恐惧过度。

结论:我们需要更精确的语言

Bender 的最终呼吁很明确:放弃“人工智能”这个模糊的伞式术语,转而对具体技术进行具体命名和讨论。

  • 是“大型语言模型”?就说 LLM。
  • 是“蛋白质结构预测模型”?就说 AlphaFold。
  • 是“统计天气模型”?就说数值天气预报。

只有使用精确的语言,我们才能进行有意义的辩论,制定有效的监管政策,并做出明智的技术选择。

“随机鹦鹉”这个比喻的真正价值在于:它提醒我们,不要被流畅的文本生成所迷惑,而要清醒地认识到模型能力的边界。正如 Bender 所说:“语言技术本身是独立有价值且有趣的,但前提是我们不把它包装成某种它并不是的东西。”

原文链接:https://spectrum.ieee.org/stochastic-parrot

编写使用方法
Markdown 格式 · Ctrl+Enter 确定
新建笔记
预览
数据表格
点击单元格编辑 · Tab 移动
A1fx
Sheet1
BIH1H2≡🔗</>
隐私提醒

取消
编辑工具
取消