 погрешность чисел в doubleSpinBox |
Здравствуйте, гость ( Вход | Регистрация )
voipp опции профиля:
|
 14.11.2010, 1:00
Сообщение
#1
|
 Участник  Группа: Участник Сообщений: 116 Регистрация: 20.10.2009 Из: Msk Пользователь №: 1166 Спасибо сказали: 0 раз(а) Репутация:  0 
 |
Вообщем имеется у меня DoubleSpinBox.Переменной "a" присваивается значение из дабл спинбокса.Но это значение с погрешностью в 3 десятитысячных(или что-то типо того).Для меня это очень важно.Как добиться абcолютной точности?
Сообщение отредактировал voipp - 14.11.2010, 1:06 |
 |
  
|
 |
Ответов
|
Алексей1153 опции профиля:
|
14.11.2010, 20:42
Сообщение
#2
|
 фрилансер Группа: Участник Сообщений: 2941 Регистрация: 19.6.2010 Из: Обливион Пользователь №: 1822 Спасибо сказали: 215 раз(а) Репутация: 34
|
Цитата(voipp @ 14.11.2010, 20:49)  хорошо вопрос такой: как мне сделать так чтобы в переменной было значение без погрешности? Неужели никак? хранить по возможности все исходные данные в виде целых чисел (далеко не всегда возможно) например, вместо double x=1/3; хранить int x_nom=1; int x_den=3; только зачем ? 
|
|
|
|
Сообщений в этой теме
voipp погрешность чисел в doubleSpinBox 14.11.2010, 1:00
Litkevich Yuriy Цитата(voipp @ 14.11.2010, 4:00) Как доби... 14.11.2010, 1:17 voipp хорошо вопрос такой: как мне сделать так чтобы в п... 14.11.2010, 18:49 ernie voipp,разные типы переменных дают разную точность ... 14.11.2010, 19:12 voipp у меня просто из doublespinbox в переменную заноси... 14.11.2010, 20:48 Litkevich Yuriy Цитата(voipp @ 14.11.2010, 23:48) Если ша... 14.11.2010, 21:03 voipp 0,199(9) я имел ввиду 9 в периоде - 0,19999999...
... 14.11.2010, 21:45
Litkevich Yuriy Цитата(voipp @ 15.11.2010, 1:45) 0,2 а в ... 14.11.2010, 22:41  |
Теги
Нет тегов для показа
2 чел. читают эту тему (гостей: 2, скрытых пользователей: 0)
Пользователей: 0
|
|
Текстовая версия | Сейчас: 30.11.2024, 9:38 |