 погрешность чисел в doubleSpinBox |
Здравствуйте, гость ( Вход | Регистрация )
voipp опции профиля:
|
 14.11.2010, 1:00
Сообщение
#1
|
 Участник  Группа: Участник Сообщений: 116 Регистрация: 20.10.2009 Из: Msk Пользователь №: 1166 Спасибо сказали: 0 раз(а) Репутация:  0 
 |
Вообщем имеется у меня DoubleSpinBox.Переменной "a" присваивается значение из дабл спинбокса.Но это значение с погрешностью в 3 десятитысячных(или что-то типо того).Для меня это очень важно.Как добиться абcолютной точности?
Сообщение отредактировал voipp - 14.11.2010, 1:06 |
 |
  
|
 |
Ответов
|
Litkevich Yuriy опции профиля:
|
14.11.2010, 22:41
Сообщение
#2
|
 разработчик РЭА Группа: Сомодератор Сообщений: 9669 Регистрация: 9.1.2008 Из: Тюмень Пользователь №: 64 Спасибо сказали: 807 раз(а) Репутация: 94
|
Цитата(voipp @ 15.11.2010, 1:45)  0,2 а в переменную читается 0,19999... вот это странно
|
|
|
|
Сообщений в этой теме
voipp погрешность чисел в doubleSpinBox 14.11.2010, 1:00
Litkevich Yuriy Цитата(voipp @ 14.11.2010, 4:00) Как доби... 14.11.2010, 1:17 voipp хорошо вопрос такой: как мне сделать так чтобы в п... 14.11.2010, 18:49 ernie voipp,разные типы переменных дают разную точность ... 14.11.2010, 19:12 Алексей1153 Цитата(voipp @ 14.11.2010, 20:49) хорошо ... 14.11.2010, 20:42 voipp у меня просто из doublespinbox в переменную заноси... 14.11.2010, 20:48 Litkevich Yuriy Цитата(voipp @ 14.11.2010, 23:48) Если ша... 14.11.2010, 21:03 voipp 0,199(9) я имел ввиду 9 в периоде - 0,19999999...
... 14.11.2010, 21:45
  |
Теги
Нет тегов для показа
3 чел. читают эту тему (гостей: 3, скрытых пользователей: 0)
Пользователей: 0
|
|
Текстовая версия | Сейчас: 30.11.2024, 9:39 |