Модель выдаёт ссылку, цитату, дату или имя, которых не существует, и подаёт их тем же ровным тоном, что и верные сведения. Явление принято называть галлюцинацией. Внешних признаков у такого фрагмента нет: он грамотно построен, неотличим по слогу от остального ответа и внутренне непротиворечив, поэтому обнаруживается только сверкой с источником.
92 карточки об устройстве искусственного интеллекта: на каких данных учат модели, из чего собрана сеть, как идёт обучение и почему работа языковой модели сведена к предсказанию следующего куска текста. Два раздела отвечают, отчего модель уверенно сообщает несуществующее и что с этим делают. Последний — чего у модели нет в принципе.