Объяснимость — набор приёмов, показывающих со стороны, на что опирался ответ: какие участки входа повлияли сильнее, что изменится при замене отдельных слов, какие документы подставлены во вход. Все они восстанавливают опору по поведению модели, а не читают её внутреннее устройство. Разные приёмы дают разные объяснения одного и того же ответа.
92 карточки об устройстве искусственного интеллекта: на каких данных учат модели, из чего собрана сеть, как идёт обучение и почему работа языковой модели сведена к предсказанию следующего куска текста. Два раздела отвечают, отчего модель уверенно сообщает несуществующее и что с этим делают. Последний — чего у модели нет в принципе.