Вопрос округления при конвертации в беззнаковый шорт

Question

Вопрос округления при конвертации в беззнаковый шорт

0

Я получаю неправильное значение при преобразовании float в unsigned integer

TMAC_PAYLOAD_SCALE = 0.10
Data = (unsigned short)(mData / TMAC_PAYLOAD_SCALE);
189.20/0.10 = 1891  (I am expecting 1892)
184.59/0.10 = 1845  (I am expecting 1846)

Пробовал с функцией round и ceil, но все еще получал неправильный ответ

Sijith 02 сен. 2014, в 13:32

Источник

0

round должен дать правильный результат - вы уверены, что использовали его правильно?
Paul R 02 сен. 2014, в 11:01
0

Выглядит хорошо для меня (я использовал раунд для первого, но он вам нужен и для второго). Необходимость округления в первом случае обусловлена только радостями вычислений с плавающей запятой: 10.0 * 189.20 дает правильный ответ. Во втором случае это происходит из-за того, что приведение данных каким-то образом усекает данные, поэтому 1845,9 становится 1845.
Nelfeal 02 сен. 2014, в 11:09
0

@PaulR В случае VC да. Но, вообще говоря, тип double (возвращаемый round ) не обязательно должен быть IEEE 754 и обеспечивать точное представление для всех целых чисел. Так что у нас могут быть случаи, когда после усечения результат оказывается меньше ожидаемого. (Я попытался проиллюстрировать это float в моем ответе.)
AlexD 06 сен. 2014, в 22:30

Показать ещё 1 комментарий

Теги:

c++

c

visual-c++

2 ответа

0

что у меня tried-

#include <stdio.h>
#include<math.h>
int main ()
{

        printf("%hd\n",(unsigned short)ceil(189.20/0.10)); // you can use ceilf also
        printf("%hd\n",(unsigned short)floor(184.59/0.10));

        return 0;
}

output-

root@sathish1:~/My Docs/Programs# ./a.out 
1892
1845

Sathish 02 сен. 2014, в 09:26

Ещё вопросы

round должен дать правильный результат - вы уверены, что использовали его правильно?
Выглядит хорошо для меня (я использовал раунд для первого, но он вам нужен и для второго). Необходимость округления в первом случае обусловлена только радостями вычислений с плавающей запятой: 10.0 * 189.20 дает правильный ответ. Во втором случае это происходит из-за того, что приведение данных каким-то образом усекает данные, поэтому 1845,9 становится 1845.
@PaulR В случае VC да. Но, вообще говоря, тип double (возвращаемый round ) не обязательно должен быть IEEE 754 и обеспечивать точное представление для всех целых чисел. Так что у нас могут быть случаи, когда после усечения результат оказывается меньше ожидаемого. (Я попытался проиллюстрировать это float в моем ответе.)

AlexD · Accepted Answer · 2014-09-02T09-30-00.000Z

Если компилятор C++ использует IEEE 754, вы можете попробовать круглую функцию:

Data = (unsigned short)round(mData / TMAC_PAYLOAD_SCALE);

Однако, полагая, что результат деления неотрицателен, возможно, следующий подход:

Data = (unsigned short)(mData / TMAC_PAYLOAD_SCALE + 0.5);

Причина в том, что для преобразования с плавающим интегралом дробная часть просто отбрасывается. Поэтому, если функция округления не может представлять точное интегральное значение N и возвращает значение "немного меньше", чем N, то после литья получим N-1.

Эта проблема может быть проиллюстрирована следующим (совместимым с IEEE 754) кодом:

int a = 16777217;
float f = a; // not double
int b = f;
cout << a << " " << b << endl;

которые выходят

16777217 16777216

Хотя описанная проблема не должна возникать в случае IEEE 754 и функции round (так как round return double которая позволяет точное представление для целых чисел), все же первый подход выглядит не очень удобно, потому что мы должны учитывать все эти предположения.

Мне действительно понравились эти данные = round (mData) * 100) / 100;
@Sijith Вам нужно округлить результат операции '/', а не один аргумент. (Кронштейны несбалансированы.)
@ Поскольку я обновляю ответ, вы можете посмотреть и на второй вариант.