统计学与AI时代生存指南

多客科技

作者：微信文章
在没学统计学的时候，我们可能会对 AI 能生成流畅的文本、做出精准的预测感到不可思议，觉得它像有魔法一样无所不能。但当我们学习了统计学之后，就会明白 AI 的这些表现，本质上都是基于概率分布和统计规律的计算和选择，就像赌场里的游戏，虽然结果看起来随机，但背后都有其概率规律。

赌场小白可能只会被游戏的表面现象吸引，凭感觉下注；而算牌高手则能通过计算概率，做出更明智的决策。学习统计学，能让我们从 "AI 小白" 变成理解 AI 背后概率游戏的 "高手"，不再被 AI 的表象所迷惑，而是能理性地看待和运用 AI。
🎯 一些感悟和收获

统计学是理解 AI 的 "元技能"

"元技能" 指的是一种基础的、具有通用性的技能，它能帮助我们理解和掌握其他更具体的技能。统计学就是理解 AI 的元技能。

AI，尤其是像 GPT 这样的大语言模型，其工作原理深深植根于统计学。从模型的训练过程（基于大量数据学习概率分布），到模型的生成过程（基于概率进行采样），再到模型效果的评估（使用各种统计指标），每一个环节都离不开统计学的知识。打个比方，如果你把 AI 比作一台复杂的机器，那么统计学就是这台机器的 "操作手册" 和 "工作原理说明书"。只有读懂了这本说明书，你才能真正理解 AI 为什么会这样工作，为什么会产生某些结果，而不是把 AI 的表现看作是不可捉摸的 "魔法"。

无论是想使用 AI 解决实际问题，还是想深入研究 AI 技术，掌握统计学这一元技能，都能让你事半功倍。

2. 描述 / 推断 / 预测 / 验证构成完整工作流

统计学的四大分支（描述统计、推断统计、预测建模和验证评估）并不是孤立存在的，它们相互配合，构成了一个完整的数据分析和应用工作流。

描述统计是工作流的起点，它帮助我们整理和概括数据，了解数据的基本特征，就像给数据拍了一张 "快照"，让我们对数据有一个直观的认识。

推断统计基于描述统计的结果，从样本数据推断总体特征，解决了我们无法获取全部数据的难题，让我们能从局部推断整体。

预测建模则是在理解数据规律的基础上，利用这些规律对未来进行预测，把统计学的价值从 "解释过去" 延伸到 "预测未来"。

验证评估贯穿于整个工作流，它检验我们的描述是否准确、推断是否可靠、预测是否有效，确保我们得出的结论是科学合理的。

比如，在分析一款 APP 的用户行为时，我们会先用描述统计了解用户的平均使用时长、使用频率等；再用推断统计，根据部分用户的反馈推断所有用户对 APP 的满意度；然后用预测建模，根据用户的行为数据预测他们未来是否会继续使用 APP；最后用验证评估，检验我们的预测模型是否准确，结论是否可靠。这四个环节环环相扣，共同构成了统计学解决实际问题的完整链条。

3. 大模型时代需要升级统计思维

  随着大模型的出现和发展，统计学的应用场景发生了很大变化，这就要求我们升级自己的统计思维，以适应新时代的需求。在传统的统计学应用中，我们可能更关注小样本下的精确推断、简单模型的解释力等。但在大模型时代，我们需要：

理解概率生成的本质：大模型的核心是基于概率分布进行内容生成，我们要学会从概率的角度看待模型的输出，而不是把模型的输出当作绝对正确的结果。

重视新的评估指标：除了传统的准确率、召回率，还要关注生成多样性、事实一致性等更符合大模型特点的指标。

警惕数据规模带来的陷阱：当数据量极大时，传统的统计显著性检验可能会失效，我们要更加关注效应量，判断结果的实际意义。

  升级统计思维，并不是要抛弃传统的统计学知识，而是要在传统知识的基础上，结合大模型的特点，形成新的认知和方法，让统计学更好地为我们理解和运用大模型服务。
🍿 彩蛋：ChatGPT 的统计冷知识

1. 温度参数 = 1 时，GPT 选择单词的概率完全遵循原始分布


在 ChatGPT 生成文本的过程中，温度（Temperature）参数起着重要作用。当温度参数设置为 1 时，ChatGPT 在选择下一个单词时，完全按照模型计算出的原始概率分布进行选择。也就是说，某个单词的概率是多少，它被选中的可能性就是多少。比如，模型计算出 "推荐" 这个词的概率是 50%，"建议" 是 30%，那么在温度 = 1 时，"推荐" 被选中的机会就是 "建议" 的近两倍，完全遵循原始的概率比例。这时候，ChatGPT 生成的文本既不会过于保守，也不会过于奔放，比较符合模型对语言规律的原始学习结果。
2. 当温度→0，GPT 会变成 "复读机"（总是选最高概率词）


当温度参数无限接近 0 时，情况就会发生很大变化。这时候，ChatGPT 会几乎只选择概率最高的那个单词，其他概率较低的单词被选中的可能性微乎其微。比如，在某个语境下，"是" 这个词的概率是 90%，"不是" 是 10%，当温度接近 0 时，ChatGPT 会一直选择 "是"，即使 "不是" 在某些情况下更合适。这就导致 ChatGPT 生成的文本会非常单调，甚至会重复使用某些词语或句子，就像一台 "复读机"。这种特性使得低温度适合生成那些需要准确性和一致性的内容，因为它会严格按照最可能的方式来表达。
3. 这也是为什么低 temperature 适合写代码，高 temperature 适合写诗


正是由于温度参数对 ChatGPT 生成内容的影响，我们可以根据不同的任务需求，设置合适的温度参数。

写代码时，我们需要代码语法正确、逻辑严谨，容不得太多的随意性。低温度下，ChatGPT 会选择最可能正确的表达方式，生成的代码更稳定、更可靠，不容易出现语法错误或逻辑混乱，所以低温度适合写代码。

写诗则需要丰富的想象力、多样的表达和独特的意境。高温度下，ChatGPT 会有更大的概率选择那些概率较低但更具创意的词语和句式，生成的诗句会更富有变化和新意，不会显得呆板，所以高温度适合写诗。

了解了温度参数的这个特点，你就可以根据自己的需求，灵活调整 ChatGPT 的参数，让它更好地为你服务。
💡 顿悟时刻："学统计学前看 AI 觉得是魔法，学完后发现都是概率游戏 —— 区别就像赌场小白和算牌高手！"