LDA 主题模型

一、直观理解：每篇文章是若干主题的混合，每个主题是词的分布

LDA（Latent Dirichlet Allocation）假设：语料中有 $K$ 个主题；每篇文档有一个主题比例向量；每个词由先选主题再选词生成。推断得到“文档—主题”与“主题—词”分布后，可用主题概括海量文本。

它比 TF-IDF 更进一步：不是只看词权重，而是发现可解释的主题簇。

二、适用场景与优缺点

类型	说明
适用场景	大量文档需自动归主题；舆情/论文/评论结构探索；降维表示。
核心优点	无监督；主题可解释（看高概率词）；有概率生成意义。
局限与缺点	$K$ 需选择；短文本表现弱；词袋无语序；实现与调参有成本。

三、核心原理

生成过程（简述）：

1. 对主题 $k$，抽词分布 $\phi_k\sim\mathrm{Dir}(\beta)$；
2. 对文档 $d$，抽主题比例 $\theta_d\sim\mathrm{Dir}(\alpha)$；
3. 对文档中每个位置：抽主题 $z\sim\mathrm{Mult}(\theta_d)$，再抽词 $w\sim\mathrm{Mult}(\phi_z)$。

推断常用变分推断或 Gibbs 采样，得到 $\theta,\phi$ 的后验估计。

四、实践要点

• 分词、停用词、低频词过滤；
• $K$ 用困惑度/连贯性/人工可读性综合选；
• 多组随机种子检查主题稳定；
• 报告每主题 top 词与代表文档。

五、MATLAB 示例

MATLAB 可用 fitlda（Text Analytics Toolbox）。无工具箱时给出可运行的“词共现 + NMF 近似主题”备选，思想相近。

%% 若有 fitlda
try
    documents = [
        "数学 建模 优化 线性规划 约束"
        "统计 回归 假设检验 方差分析"
        "优化 梯度 遗传算法 搜索"
        "图像 分割 边缘 滤波 形态学"
        "图像 滤波 去噪 边缘 检测"
        "回归 预测 时间序列 ARIMA"
    ];
    documents = erasePunctuation(documents);
    documents = tokenizedDocument(documents);
    bag = bagOfWords(documents);
    bag = removeInfrequentWords(bag, 1);
    ldaMdl = fitlda(bag, 3, "Verbose", 0);
    figure; wordcloud(ldaMdl, 1);
    title("主题 1 词云");
    disp(ldaMdl.TopicWordProbabilities(1:5,:));
catch ME
    warning("fitlda 不可用，改用 NMF 主题近似: %s", ME.message);
    % --- NMF 近似 ---
    vocab = ["数学","建模","优化","回归","图像","滤波","边缘","统计","预测","分割"];
    % 手工文档-词频矩阵 (6 docs x 10 words)
    X = [
        1 1 2 0 0 0 0 0 0 0
        0 0 0 2 0 0 0 2 0 0
        0 1 2 0 0 0 0 0 0 0
        0 0 0 0 2 1 1 0 0 1
        0 0 0 0 1 2 2 0 0 0
        0 0 0 2 0 0 0 1 2 0
    ];
    K = 3;
    [W, H] = nnmf(X, K);
    for k=1:K
        [~, ord] = sort(H(k,:), "descend");
        fprintf("主题%d top词: %s %s %s\n", k, vocab(ord(1)), vocab(ord(2)), vocab(ord(3)));
    end
    disp("文档-主题强度 W ="); disp(W);
end

六、如何解释结果

为每个主题命名（基于 top 词），展示文档主题比例，说明 $K$ 的选择与稳定性。主题应能被人工读懂，否则减 $K$ 或清洗词表。

七、常见误区

1. $K$ 拍脑袋且不看词表

2. 把 LDA 概率当因果

3. 停用词/专有词未处理导致主题被虚词占据

4. 短文本强行 LDA

可考虑聚合文档或其他模型。

附：建模流程中的落地清单（LDA）

要把方法真正写进论文，建议补齐以下模块，而不是只贴一个最终数字。

1. 问题对齐与假设

说明题目中的输入/输出如何映射到本方法，并显式列出关键假设。假设越清楚，后面的敏感性分析越有对象。

2. 关键关系

文档为主题混合，主题为词分布；推断得 $\theta,\phi$。$K$ 需综合困惑度与可读性选择。

3. 补充实现片段

% NMF 近似主题见正文；有工具箱用 fitlda
disp('use nnmf or fitlda as in main example');

4. 报告要素

$K$、top 词、主题命名、文档比例、稳定性。

5. 不适用情形

$K$ 拍脑袋；短文本强行 LDA。

6. 与验证章节的衔接

至少做一项：参数扰动、与基线方法对照、极限情形检查。把“方法正文”和“全局方法论（第15门类）”连起来，结论才站得住。

附：结果解读示例与常见审稿问题

结果解读示例

假设已经得到主要数值输出。写作时应把数字翻译回题目语言，例如：

• “在基准参数下指标为 A；当关键参数变化 ±10% 时，指标波动约 B%，方案排序未变。”
• “算法在 R 次独立重复中有 S 次收敛到同一结构解，说明结论对初始化不敏感。”
• “与简化基线相比，本方法在验证集误差降低 Δ，但计算时间增加，权衡后仍采用。”

如果只有表格没有句子，评委很难判断你是否真正理解结果。

参数与数据的最小敏感性

即使篇幅有限，也建议给出一个小表：选取 1–3 个最关键参数，各取偏低/基准/偏高三档，报告输出变化。这比大段空泛的“模型具有较强鲁棒性”更有说服力。

可复现信息

在附录或正文脚注中记录：软件版本、随机种子、关键容差、数据截取时间范围。另一人按文档应能得到同量级结果。

审稿式自问

1. 方法假设在题目数据上是否可检查？
2. 若最敏感参数估计错误 20%，结论是否翻盘？
3. 是否存在更简单方法达到相近效果？
4. 图表是否都能用一句话概括？
5. 局限是否写得具体，而不是套话？

把上述自问的答案写进论文，方法章节会明显更“像完成了建模”，而不是“像完成了公式摘录”。

八、小结

LDA 用生成式混合主题解释文档集合，输出可解释的主题—词与文档—主题结构。它是文本探索的标准无监督工具；质量取决于预处理、$K$ 选择与人工可读性检验。