 погрешность чисел в doubleSpinBox |
Здравствуйте, гость ( Вход | Регистрация )
voipp опции профиля:
|
 14.11.2010, 1:00
Сообщение
#1
|
 Участник  Группа: Участник Сообщений: 116 Регистрация: 20.10.2009 Из: Msk Пользователь №: 1166 Спасибо сказали: 0 раз(а) Репутация:  0 
 |
Вообщем имеется у меня DoubleSpinBox.Переменной "a" присваивается значение из дабл спинбокса.Но это значение с погрешностью в 3 десятитысячных(или что-то типо того).Для меня это очень важно.Как добиться абcолютной точности?
Сообщение отредактировал voipp - 14.11.2010, 1:06 |
 |
  
|
 |
Ответов
|
voipp опции профиля:
|
14.11.2010, 21:45
Сообщение
#2
|
|
Участник Группа: Участник Сообщений: 116 Регистрация: 20.10.2009 Из: Msk Пользователь №: 1166 Спасибо сказали: 0 раз(а) Репутация: 0
|
0,199(9) я имел ввиду 9 в периоде - 0,19999999...
Да, я в спинбоксе устанавливаю значение 0,2 а в переменную читается 0,19999... Я пробовал менять тип данных переменной - float double.Но все равно погрешность возникает |
|
|
|
Сообщений в этой теме
voipp погрешность чисел в doubleSpinBox 14.11.2010, 1:00
Litkevich Yuriy Цитата(voipp @ 14.11.2010, 4:00) Как доби... 14.11.2010, 1:17 voipp хорошо вопрос такой: как мне сделать так чтобы в п... 14.11.2010, 18:49 ernie voipp,разные типы переменных дают разную точность ... 14.11.2010, 19:12 Алексей1153 Цитата(voipp @ 14.11.2010, 20:49) хорошо ... 14.11.2010, 20:42 voipp у меня просто из doublespinbox в переменную заноси... 14.11.2010, 20:48 Litkevich Yuriy Цитата(voipp @ 14.11.2010, 23:48) Если ша... 14.11.2010, 21:03
Litkevich Yuriy Цитата(voipp @ 15.11.2010, 1:45) 0,2 а в ... 14.11.2010, 22:41  |
Теги
Нет тегов для показа
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0
|
|
Текстовая версия | Сейчас: 2.12.2024, 13:16 |