 погрешность чисел в doubleSpinBox |
Здравствуйте, гость ( Вход | Регистрация )
voipp опции профиля:
|
 14.11.2010, 1:00
Сообщение
#1
|
 Участник  Группа: Участник Сообщений: 116 Регистрация: 20.10.2009 Из: Msk Пользователь №: 1166 Спасибо сказали: 0 раз(а) Репутация:  0 
 |
Вообщем имеется у меня DoubleSpinBox.Переменной "a" присваивается значение из дабл спинбокса.Но это значение с погрешностью в 3 десятитысячных(или что-то типо того).Для меня это очень важно.Как добиться абcолютной точности?
Сообщение отредактировал voipp - 14.11.2010, 1:06 |
 |
  
|
 |
Ответов
|
ernie опции профиля:
|
14.11.2010, 19:12
Сообщение
#2
|
 Участник Группа: Участник Сообщений: 130 Регистрация: 13.5.2010 Из: Irkutsk Пользователь №: 1712 Спасибо сказали: 11 раз(а) Репутация: 1
|
voipp,разные типы переменных дают разную точность после запятой,вообзе без погрешности конечно не будет,но если возьмешь правильный тип,то хорошую точность можно получить
|
|
|
|
Сообщений в этой теме
voipp погрешность чисел в doubleSpinBox 14.11.2010, 1:00
Litkevich Yuriy Цитата(voipp @ 14.11.2010, 4:00) Как доби... 14.11.2010, 1:17 voipp хорошо вопрос такой: как мне сделать так чтобы в п... 14.11.2010, 18:49 Алексей1153 Цитата(voipp @ 14.11.2010, 20:49) хорошо ... 14.11.2010, 20:42 voipp у меня просто из doublespinbox в переменную заноси... 14.11.2010, 20:48 Litkevich Yuriy Цитата(voipp @ 14.11.2010, 23:48) Если ша... 14.11.2010, 21:03 voipp 0,199(9) я имел ввиду 9 в периоде - 0,19999999...
... 14.11.2010, 21:45
Litkevich Yuriy Цитата(voipp @ 15.11.2010, 1:45) 0,2 а в ... 14.11.2010, 22:41  |
Теги
Нет тегов для показа
2 чел. читают эту тему (гостей: 2, скрытых пользователей: 0)
Пользователей: 0
|
|
Текстовая версия | Сейчас: 2.12.2024, 13:20 |