Обученная модель — набор чисел, каждое из которых по отдельности ничего не означает. Смысл несут сочетания, и записаны они не так, как назвал бы их человек: одно понятие распределено по многим весам, а один вес участвует во многих понятиях. Отдельные узлы, откликающиеся на узнаваемое свойство, иногда удаётся выделить, но описать так модель целиком не получается.
92 карточки об устройстве искусственного интеллекта: на каких данных учат модели, из чего собрана сеть, как идёт обучение и почему работа языковой модели сведена к предсказанию следующего куска текста. Два раздела отвечают, отчего модель уверенно сообщает несуществующее и что с этим делают. Последний — чего у модели нет в принципе.