微调是指在一个有针对性的语料库(内部判例、客户支持历史、技术文档)上继续训练现有模型,以提升其在该特定领域的表现。
对于大多数业务用途,RAG 已经足够,而且更易于维护(只需重新索引文档即可更新知识,无需重新训练)。微调的价值在于让本地开源模型专精于某个行业词汇或高度受限的输出格式。
一家律师事务所用自己的 2000 封函件对模型进行再训练,让它掌握事务所的文风和用词。此后,模型写出的初稿读起来就像出自事务所之手。
当您需要非常特定且稳定的语气、格式或用词时。如果只是让 AI 访问您的文档,RAG 几乎总是更简单、更省钱,也更容易保持更新。
要让模型了解我的公司,必须对它进行微调吗?
很少需要。在大多数情况下,将模型与您的文档连接起来(RAG)就足够了,还能避免每次内容变动都要重新训练。只有在需要特定文风或处理高度重复的任务时,微调才有必要。