Температура — настройка, меняющая, насколько часто на шаге берётся менее вероятный кусок текста. При низком значении выбор почти всегда падает на самый вероятный вариант, и ответы на один запрос выходят однообразными. При высоком разброс растёт. Настройка пересчитывает вероятности, по которым идёт отбор, но не то, что вычислила сеть.
92 карточки об устройстве искусственного интеллекта: на каких данных учат модели, из чего собрана сеть, как идёт обучение и почему работа языковой модели сведена к предсказанию следующего куска текста. Два раздела отвечают, отчего модель уверенно сообщает несуществующее и что с этим делают. Последний — чего у модели нет в принципе.