Точность и округление · Карточка INF-0006
Компьютеры и данныеКак данные превращаются в вычисление

Компьютер хранит не само число, а ближайшее из возможных

Дробное число хранится приближённо по двум причинам. Во-первых, ширина ячейки ограничена, и длинная запись в неё не помещается. Во-вторых, в двоичной записи многие десятичные дроби бесконечны: одна десятая повторяется без конца, как одна треть в десятичной, и точно не выражается ни при какой ширине. Отброшенный остаток — ошибка округления; в длинных цепочках вычислений такие ошибки накапливаются.

INF-0006InDecks
Колода «Компьютеры и данные» · 54 карточки · все открыты бесплатно
Дальше в колоде
Из колоды

Компьютеры и данные

54 карточки о вычислениях и данных: как непрерывное становится числом, как устроены алгоритмы и структуры хранения, почему сеть считается ненадёжной, чем хеш отличается от шифра и что модель делает с обучающей выборкой.

54 карточки · Взрослые
О колоде Открыть в браузере В Telegram В ВКонтакте