Модель получает запрос пользователя и посторонние тексты — страницу, письмо, файл — одним потоком токенов и по происхождению их не различает. Указание, записанное внутри такого текста, обрабатывается наравне с указанием пользователя. Отсюда сбои систем, которые сами ходят за документами: содержимое найденного текста меняет дальнейшее поведение системы.
92 карточки об устройстве искусственного интеллекта: на каких данных учат модели, из чего собрана сеть, как идёт обучение и почему работа языковой модели сведена к предсказанию следующего куска текста. Два раздела отвечают, отчего модель уверенно сообщает несуществующее и что с этим делают. Последний — чего у модели нет в принципе.