Там, где верность ответа нельзя проверить программой — медицина, право, инженерный расчёт, — выдачу читает человек, знающий предмет, и сличает её с источниками. Проверка идёт после ответа и над готовым текстом, а не над обучающими данными. Объём её ограничен: прочитать удаётся малую долю выдачи, поэтому берут случайные или наиболее рискованные случаи.
92 карточки об устройстве искусственного интеллекта: на каких данных учат модели, из чего собрана сеть, как идёт обучение и почему работа языковой модели сведена к предсказанию следующего куска текста. Два раздела отвечают, отчего модель уверенно сообщает несуществующее и что с этим делают. Последний — чего у модели нет в принципе.