Имя пользователя:
Пароль:  
Помощь | Регистрация | Забыли пароль?  

Показать сообщение отдельно

Старожил


Сообщения: 181
Благодарности: 43

Профиль | Отправить PM | Цитировать


Все числа хранятся в двоичном виде и состоят из сумм различных степеней двойки.
Несколько степеней после запятой: 2^-1=0.5, 2^-2=0.25, 2^-3=0.125 и т.д.

Т.е., 200.1=128+64+8+0.0625+0.03125+0.00390625+0.001953125+0.000244140625+...

Т.о. получить точное значение 0.1 без округления ну никак не получится.

А тебе точно нужно 16 знаков после запятой?
Это сообщение посчитали полезным следующие участники:

Отправлено: 22:46, 06-01-2008 | #348