Обратное распространение ошибки — способ узнать, как повлиял на промах каждый вес, когда слоёв много. Расхождение с ожидаемым ответом известно на последнем слое; оттуда вклад разносится по слоям в обратном порядке, от выхода ко входу, за один проход. Иначе вклад весов первых слоёв остался бы неизвестным.
92 карточки об устройстве искусственного интеллекта: на каких данных учат модели, из чего собрана сеть, как идёт обучение и почему работа языковой модели сведена к предсказанию следующего куска текста. Два раздела отвечают, отчего модель уверенно сообщает несуществующее и что с этим делают. Последний — чего у модели нет в принципе.