погрешность чисел в doubleSpinBox Опции

[voipp]

Вообщем имеется у меня DoubleSpinBox.Переменной "a" присваивается значение из дабл спинбокса.Но это значение с погрешностью в 3 десятитысячных(или что-то типо того).Для меня это очень важно.Как добиться абcолютной точности?

Сообщение отредактировал voipp - 14.11.2010, 1:06

[Litkevich Yuriy]

Как добиться абcолютной точности?

в компьютерах - принципиально ни как.
нужно задаться некой точностью

[voipp]

хорошо вопрос такой: как мне сделать так чтобы в переменной было значение без погрешности? Неужели никак?

[ernie]

voipp,разные типы переменных дают разную точность после запятой,вообзе без погрешности конечно не будет,но если возьмешь правильный тип,то хорошую точность можно получить

[Алексей1153]

хорошо вопрос такой: как мне сделать так чтобы в переменной было значение без погрешности? Неужели никак?

хранить по возможности все исходные данные в виде целых чисел (далеко не всегда возможно)

например, вместо
double x=1/3;

хранить
int x_nom=1;
int x_den=3;

только зачем ?

[voipp]

у меня просто из doublespinbox в переменную заносится значение шага.Если шаг равен 0,2 то в переменной может хранится 0,199(9).И соответственно при вычислении количества шагов на отрезке я получаю неправильный результат.Нашел единственный выход: применять функцию ceil(x) (возвращает значение double, представляющее наименьшее целое, которое больше или равно x.).А если значение превышает истинное, то просто привожу его к int.Коряво, но иначе не могу

[Litkevich Yuriy]

Если шаг равен 0,2 то в переменной может хранится 0,199(9)

это не понял.
В спинбоксе пользователь ввёл "0,2" а из него читается 0,199?

[voipp]

0,199(9) я имел ввиду 9 в периоде - 0,19999999...
Да, я в спинбоксе устанавливаю значение 0,2 а в переменную читается 0,19999...
Я пробовал менять тип данных переменной - float double.Но все равно погрешность возникает

[Litkevich Yuriy]

0,2 а в переменную читается 0,19999...

вот это странно