一、任务定义项目将评论分析拆成三个独立分类任务投诉分流四分类、虚假评论二分类、广告骚扰二分类。每个任务使用自己的训练数据和分类头。二、为什么选择 BERTbert-base-chinese已经在大量中文语料上进行预训练具备基础中文语义能力。相比从零训练 Transformer微调预训练模型需要的数据和算力更少也更适合项目快速验证。传统 TF-IDF 只能表达词频FastText 擅长关键词和子词模式但对复杂上下文的处理有限。BERT 通过双向 Transformer 建模上下文适合处理否定、语序和语义重叠。三、模型结构文本 - BertTokenizer - input_ids attention_mask - BERT Encoder - pooler_output (768维) - Linear 分类层 - logits - softmax 概率核心代码可以概括为classBertClassifier(nn.Module):def__init__(self,num_classes):super().__init__()self.bertBertModel.from_pretrained(BERT_PATH)self.fcnn.Linear(768,num_classes)defforward(self,input_ids,attention_mask):outputself.bert(input_idsinput_ids,attention_maskattention_mask,)returnself.fc(output.pooler_output)四、训练过程训练时Tokenizer 将中文文本转成 token ID并通过attention_mask区分真实内容和 padding。分类模型输出 logits使用交叉熵计算损失再通过 AdamW 更新参数。投诉分流和虚假评论任务中使用类别权重缓解类别不均衡。训练过程中按验证集 Macro-F1 保存最佳模型并在测试集上做最终评估。五、评估指标Accuracy 适合看整体正确率但类别不均衡时可能掩盖少数类表现。因此项目重点观察 Macro-F1先分别计算每个类别 F1再进行平均。现有实验结果显示投诉分流 BERT Accuracy 约 88.80%、Macro-F1 约 78.51%虚假评论 BERT Accuracy 约 89.35%、Macro-F1 约 78.59%广告检测 BERT Accuracy 约 98.35%、F1 约 98.20%。这些数字依赖具体数据版本和训练参数复现实验时应以日志为准。六、为什么每个任务使用独立分类器三个任务的标签含义不同。投诉分流关注责任部门虚假评论关注内容真实性广告检测关注违规风险。如果强行共用一个分类头标签空间和业务目标会互相干扰。独立模型更容易训练、解释和部署。后续如果数据规模继续增加可以研究共享 BERT 编码器、多任务学习和任务专属分类头。七、工程注意事项训练和推理必须使用同一个 tokenizer最大序列长度要和任务配置一致类别顺序必须固定并与class.txt绑定checkpoint 的输出层维度必须匹配任务类别数推理时使用model.eval()和torch.no_grad()线上接口需要限制文本长度和批量大小。八、总结BERT 微调解决了“让通用中文模型适应电商评论任务”的问题。它提供了较好的语义理解能力但模型体积和延迟较高因此后续还需要基线对比、知识蒸馏和量化优化。