SFT(监督微调)

SFT 是什么?

SFT(Supervised Fine-Tuning) 是监督微调的缩写，主要用于计算机科学领域，特指在预训练模型(如大语言模型)基础上，通过少量标注数据调整模型参数，使其适应特定任务的技术。

核心思想是“迁移学习”: 利用预训练模型已有的知识(如语言理解能力)，通过微调快速适配新任务(如文本分类、对话生成)。

技术特点

1.依赖预训练模型: 基于大规模无监督/自监督预训练(如GPT、BERT)。

2.少量标注数据: 只需目标任务的少量标注数据即可微调。

3.参数高效调整: 通常仅调整模型的部分层(如最后几层)，而非全部参数。

4.应用广泛: 自然语言处理(NLP)、计算机视觉(CV)等领域的核心微调技术。