Состязательный пример — вход, изменённый так слабо, что человек разницы не видит, а ответ модели становится другим. Правка может затрагивать малую часть входа и всё же переводить ответ в другой класс. Отчего модели поддаются такому сдвигу, единого объяснения пока нет; строят такие входы и для изображений, и для текста.
92 карточки об устройстве искусственного интеллекта: на каких данных учат модели, из чего собрана сеть, как идёт обучение и почему работа языковой модели сведена к предсказанию следующего куска текста. Два раздела отвечают, отчего модель уверенно сообщает несуществующее и что с этим делают. Последний — чего у модели нет в принципе.