 QByteArray::toFloat(), точность преобразования. |
Здравствуйте, гость ( Вход | Регистрация )
  |
silver47 опции профиля:
|
 6.7.2011, 17:39
Сообщение
#1
|
|
Активный участник  Группа: Участник Сообщений: 356 Регистрация: 1.4.2010 Пользователь №: 1584 Спасибо сказали: 40 раз(а) Репутация:  6 
 |
Доброго времени суток. Столкнулся с таким вот вопросом: необходимо преобразовать число из ByteArray в число с плавающей точкой. Все устраивает, кроме точности, а именно, если после запятой больше 2х знаков, то они теряются.
Пример: Полистал документацию на QByteArray и не нашел как увеличить точность  .
|
 |
  
|
|
Litkevich Yuriy опции профиля:
|
6.7.2011, 18:36
Сообщение
#2
|
 разработчик РЭА Группа: Сомодератор Сообщений: 9669 Регистрация: 9.1.2008 Из: Тюмень Пользователь №: 64 Спасибо сказали: 807 раз(а) Репутация: 94
|
Цитата(silver47 @ 6.7.2011, 20:39)  qDebug() << ba.toFloat(); // printed 1432.12 qDebug имеет привчку вносить свою лепту, поэтому перед его использованием преобразуй float в QString, а затем проверяй
|
|
|
|
|
silver47 опции профиля:
|
6.7.2011, 18:48
Сообщение
#3
|
|
Активный участник Группа: Участник Сообщений: 356 Регистрация: 1.4.2010 Пользователь №: 1584 Спасибо сказали: 40 раз(а) Репутация: 6
|
Упс. Точно так, спасибо.
|
|
|
|
 |
Теги
Нет тегов для показа
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0
|
|
Текстовая версия | Сейчас: 11.3.2025, 6:07 |