 погрешность чисел в doubleSpinBox |
Здравствуйте, гость ( Вход | Регистрация )
voipp опции профиля:
|
 14.11.2010, 1:00
Сообщение
#1
|
 Участник  Группа: Участник Сообщений: 116 Регистрация: 20.10.2009 Из: Msk Пользователь №: 1166 Спасибо сказали: 0 раз(а) Репутация:  0 
 |
Вообщем имеется у меня DoubleSpinBox.Переменной "a" присваивается значение из дабл спинбокса.Но это значение с погрешностью в 3 десятитысячных(или что-то типо того).Для меня это очень важно.Как добиться абcолютной точности?
Сообщение отредактировал voipp - 14.11.2010, 1:06 |
 |
  
|
 |
Ответов
|
voipp опции профиля:
|
14.11.2010, 20:48
Сообщение
#2
|
|
Участник Группа: Участник Сообщений: 116 Регистрация: 20.10.2009 Из: Msk Пользователь №: 1166 Спасибо сказали: 0 раз(а) Репутация: 0
|
у меня просто из doublespinbox в переменную заносится значение шага.Если шаг равен 0,2 то в переменной может хранится 0,199(9).И соответственно при вычислении количества шагов на отрезке я получаю неправильный результат.Нашел единственный выход: применять функцию ceil(x) (возвращает значение double, представляющее наименьшее целое, которое больше или равно x.).А если значение превышает истинное, то просто привожу его к int.Коряво, но иначе не могу
|
|
|
|
Сообщений в этой теме
voipp погрешность чисел в doubleSpinBox 14.11.2010, 1:00
Litkevich Yuriy Цитата(voipp @ 14.11.2010, 4:00) Как доби... 14.11.2010, 1:17 voipp хорошо вопрос такой: как мне сделать так чтобы в п... 14.11.2010, 18:49 ernie voipp,разные типы переменных дают разную точность ... 14.11.2010, 19:12 Алексей1153 Цитата(voipp @ 14.11.2010, 20:49) хорошо ... 14.11.2010, 20:42 Litkevich Yuriy Цитата(voipp @ 14.11.2010, 23:48) Если ша... 14.11.2010, 21:03 voipp 0,199(9) я имел ввиду 9 в периоде - 0,19999999...
... 14.11.2010, 21:45
Litkevich Yuriy Цитата(voipp @ 15.11.2010, 1:45) 0,2 а в ... 14.11.2010, 22:41  |
Теги
Нет тегов для показа
4 чел. читают эту тему (гостей: 4, скрытых пользователей: 0)
Пользователей: 0
|
|
Текстовая версия | Сейчас: 2.12.2024, 13:28 |