Дообучение — короткая стадия после предобучения: готовые веса правят на небольшом наборе заданий с образцовыми ответами, собранном под конкретное применение — скажем, под разбор обращений в службу поддержки. Правки невелики, а вычислений нужно несравнимо меньше; часть прежних умений модели при этом может утрачиваться.
92 карточки об устройстве искусственного интеллекта: на каких данных учат модели, из чего собрана сеть, как идёт обучение и почему работа языковой модели сведена к предсказанию следующего куска текста. Два раздела отвечают, отчего модель уверенно сообщает несуществующее и что с этим делают. Последний — чего у модели нет в принципе.