SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

语言模型和大语言模型,一个是物种,一个是物种里出了名的那个变种

语言模型是一个大类——凡是能对语言序列建模的系统都算。大语言模型是这个大类下靠着海量参数、海量数据和涌现能力出圈的那个特定子类。把语言模型这个概念框得太窄,会忽视很多非 LLM 但仍然有效的语言建模方法;把 LLM 当成唯一的语言模型,会多花不必要的算力和成本。

寓言

镇上有一种叫算盘的东西,后来有人搬来了一台水车算盘

镇上的账房们用算盘做了几百年的账。算盘能干什么?加减乘除,最多带个开方。跑商的、管粮的、算税的,人人都有一把。县里有一年来了一个京城的匠人,用铜件和齿轮造了一个巨大的水车算盘——两个壮汉都推不动,靠着水渠的冲力运转,能同时算三百道除法和两百道乘法,能做简单的预测和排序。镇上的人看完都傻眼了。

账房们起初以为水车算盘就是算盘——只不过更大,需要水推。他们把平时的账本送进水车算盘里算,发现算出来比手工多一批异常值。仔细翻查,发现水车算盘不仅做了加减乘除,还自己补了一些它觉得可能缺的数字——根据前面几百道账的规律推测出来的。老账房们怒了,说这算的是假账。

一个年轻账房站出来说:水车算盘就不是算盘。算盘怎么做,你说了算——指头拨进去什么珠子,出来什么数字,过程透明。水车算盘是在你看规则的基础上,自己建立了新的数值关系,用这些关系推测你没输入但“应该存在”的数字。不能把它当成普通算盘来用。

年轻账房后来做了一个区分。他把镇上的所有账目工具归成一类,叫计算器——算盘、算筹、格子表、甚至人脑默算,都是计算器。水车算盘是计算器下面一个新的分支:自推算器——它不靠你给全部规则,而是会从输入的海量数字里自己找出图案和结构。

镇上开了两家商号。一家用普通算盘做日常流水——成本低、人力可控、出错可追溯。一家在需要调度全州粮运路线时租用水车算盘——六百个节点、四千条路的优化,普通算盘做不了,水车算盘刚好。两家商号选了不同的工具,因为两者的任务尺度完全不同。

后来邻镇的账房跑来问:我们也要买水车算盘吗?年轻账房说:你先把你的账翻一遍——最大的一笔账涉及几个变量、几条规则?如果普通算盘能一天内搞定,别浪费水渠。水车算盘的好处在规模,但规模本身也是一项成本。

镇上从此有了一个规矩:凡是要做计算器的事,先分清楚是手算还是自推。手算用算盘,自推用水车,中间不要混。一个账房接一个单,先看单子长什么样,再定用哪台家伙。

语言模型

对语言序列进行概率建模的系统大类——包括 n-gram、神经语言模型等各种方法。核心是语言序列建模,尺度灵活。

大语言模型

语言模型的一个特定子类,参数规模极大、数据量极大,表现出涌现能力。它在文本生成、理解和推理上产生了质变,但也引入了黑箱、幻觉和高算力成本。

故事对应

  • 算盘:语言模型大类——灵活、可控、可追溯的语言序列建模方法
  • 水车算盘:大语言模型——参数和数据的规模量变产生了能力质变
  • 老账房怒斥补数字是假账:LLM 的自生成特性让它与规则驱动的语言模型在使用方式上截然不同
  • 计算器下面分出手算和自推:LLM 是语言模型的一个子类,不是语言模型的全部
  • 日常流水用算盘、粮运调度租水车算盘:任务尺度决定工具选择,不是所有场景都需要 LLM
  • 先分清楚手算还是自推:先确定任务类型再看工具,避免用 LLM 解决普通统计语言建模能胜任的问题

落到 NLP 工具的选型决策

做一个 NLP 功能之前先问:这个任务需要的是语言建模能力还是大模型的涌现能力。传统的语言模型方法(分类器、序列标注、统计匹配)在结构化提取、关键词匹配、固定格式的输出上不仅更快更便宜,准确性和可控性也更好。大语言模型的价值在模糊、跨领域、需要上下文理解和推理的场景——但它不是所有语言任务的最优解。从成本角度看,用 LLM 处理一个简单的文本分类任务,往往比传统模型贵几十到几百倍。先定义任务,再选模型类型,顺序不能反。