Один и тот же вопрос, заданный другими словами или в другом порядке, как правило даёт и другой ответ, иногда противоположный. Причина в устройстве: продолжение вычисляется по конкретной последовательности токенов, а не по смыслу, извлечённому из неё отдельно. Мелкие различия входа — синоним, вежливая рамка, порядок условий — уводят продолжение по другому пути.
92 карточки об устройстве искусственного интеллекта: на каких данных учат модели, из чего собрана сеть, как идёт обучение и почему работа языковой модели сведена к предсказанию следующего куска текста. Два раздела отвечают, отчего модель уверенно сообщает несуществующее и что с этим делают. Последний — чего у модели нет в принципе.