Старожил
Сообщения: 181
Благодарности: 43
|
Профиль
|
Отправить PM
| Цитировать
Все числа хранятся в двоичном виде и состоят из сумм различных степеней двойки.
Несколько степеней после запятой: 2^-1=0.5, 2^-2=0.25, 2^-3=0.125 и т.д.
Т.е., 200.1=128+64+8+0.0625+0.03125+0.00390625+0.001953125+0.000244140625+...
Т.о. получить точное значение 0.1 без округления ну никак не получится.
А тебе точно нужно 16 знаков после запятой?
|
Отправлено: 22:46, 06-01-2008
| #348
|