Модель улавливает, что одно обычно стоит рядом с другим, и этого хватает, чтобы продолжить текст верно в большинстве случаев. Устройство не позволяет различить, что из двух связанных явлений причина, а что следствие или общий повод: в данных обе связи выглядят одинаково. Отсюда уверенные ответы о причинах, повторяющие самое частое объяснение.
92 карточки об устройстве искусственного интеллекта: на каких данных учат модели, из чего собрана сеть, как идёт обучение и почему работа языковой модели сведена к предсказанию следующего куска текста. Два раздела отвечают, отчего модель уверенно сообщает несуществующее и что с этим делают. Последний — чего у модели нет в принципе.