ChatGPT 问世只有几个月，大家有没有发现，舆论的调门越来越高。
人们最初的震惊和赞叹，逐渐变成了非理性的鼓吹，很多人言之凿凿，断定 ChatGPT 将重塑人类社会。
举例来说，《经济学人》杂志称它会"翻天覆地"。
"GPT 也完全可以是 general-purpose technology（通用技术）的缩写：一种翻天覆地的创新，可以像汽机、电力和计算机一样提升各行各业的生产率。"
一个国内的作者则说，它会"席卷一切"。
"ChatGPT 带来的这场风暴，正在席卷一切。
随着不断的技术提升，可以预见，GPT类型的 AI，未来能替代的，也许是全行业！"
还有人担心它会淘汰人类，有的文章标题堪称惊悚，《AI 狂飙的时代，人还有价值吗？》。
微博的"热门文章"列表，也是满满的生存焦虑。
这种情绪反映在金融市场，就是"ChatGPT 概念股"被狂炒。一直微利 + 亏损的"汉王科技"，就在 ChatGPT 问世后，股价从11元炒到了40元。
我有一种感觉，ChatGPT 已经神化了，仿佛无所不能。
今天就来谈谈这件事，我要说，ChatGPT 确实很神奇，是划时代的技术创新，但是不应该无限夸大。
ChatGPT 有其局限，很多事情它做不到。有人说，ChatGPT 标志着机器取代人类的"奇点时刻"，这是不对的。
他们忽略了最关键的一点：ChatGPT 不是"通用人工智能"，而是一个语言模型。
"通用人类智能"（artificial general intelligence，简写 AGI）是 AI 的终极目标，就是造出可以像人类那样全方位的推理、思考、分析的机器。如果能实现，人类就真的危险了。
但是，ChatGPT 不是 AGI，而是一个 LLM（Large Language Models，大规模语言模型）。所谓"语言模型"，就是只用来处理语言文字（或者符号体系）的 AI 模型，发现其中的规律，可以根据提示（prompt），自动生成符合这些规律的内容。
这就是说，ChatGPT 只适用于有成文符号的领域。 这带来两个局限。
（1）如果某个领域是非成文的，不能用符号记录表达，那么 ChatGPT 就无能为力。比如，人类的很多心理活动、潜意识、灵感、顿悟等等，ChatGPT 就没法模拟生成。
（2）第二个局限更致命，ChatGPT 要用现有的文字材料进行训练，发现的是那些材料包含的规律。这意味着，它不能生成超出人类已知规律的东西。
举例来说，它不能证明未解决的数学猜想，也不能提出没有人发现过的科学发现。
即使我们把历史上所有的数学论文，都用来训练 ChatGPT，它也无法证明黎曼猜想。因为那些论文只会教它现有的证明方法，而黎曼猜想需要新方法。
ChatGPT 的底层技术是 GPT，全称为"生成式预训练转换器"（Generative pre-trained transformer），凡是使用该技术的 AI 模型都有同样的问题：它们只能掌握已知的模式，无法生成未知的模式。
所以，真正"前无古人"的创新，这一类 AI 模型做不到，还是必须依靠人类的智慧。
另外，这里还有一个逻辑悖论。如果 ChatGPT 真的强大到"席卷一切"，将来绝大多数文档都用它来生成，其实反而会带来它的衰亡。大家这么想，到了那个时候我们拿什么材料训练 AI 呢？毕竟 AI 只有拿人类的作品训练，才能模拟人类智能。
总之，ChatGPT 是一个划时代的工具，所有模式化的人类工作，都面临空前的挑战。
但是，人类生活还有很多非模式化的部分，尤其是人类的创新能力，ChatGPT 触及不了这个部分，所以它对社会的改变，不宜过分夸大。
via https://www.ruanyifeng.com/blog/2023/03/weekly-issue-248.html
文章评论