Округление значений с плавающей точкой

Question

Округление значений с плавающей точкой

0

У меня была задача портировать код C++ на С#. В моем коде была ошибка, сообщенная клиентом. Когда я отлаживал, вот что я получил...

C++ Код:

double d = -0.0000000000018736038338473693;
String temp = String(SimpleRoundTo(d, -12))); // SimpleRoundTo() is from delphi
// temp is having -1E-12

Код С#:

double d = -0.0000000000018736038338473693;
string temp = (Math.Round(d, 12)).ToString();
// temp is having -2E-12

Я проверял перегрузки Math.Round(), не получая, как получить тот же результат.

StackIT 03 июль 2014, в 09:11

Источник

2

В любом случае Double имеет точность 16 цифр. Разве вы не должны использовать десятичный тип?
Sayse 03 июль 2014, в 06:35
0

Не является ли результат C # правильным? Например, я ожидаю Math.Round (0,18, 1) == 0,2. Или вы хотите округлить его?
Ilian 03 июль 2014, в 06:44
0

@llian Pinzon: хочу округлить
StackIT 03 июль 2014, в 06:52
0

Если вы хотите округлить, значит, вы все время использовали неправильный код. Вы должны поставить требования в вопросе.
David Heffernan 03 июль 2014, в 06:57
0

@Sayse Что ты имеешь в виду? Код в вопросе предоставляет только правильное количество цифр, обычно необходимое для идентификации числа двойной точности IEEE 754.
Pascal Cuoq 03 июль 2014, в 07:49
0

@PascalCuoq - я предлагаю, так как большая часть значения будет потеряна, OP может быть лучше использовать десятичный тип для своих числовых потребностей (я понимаю, что он «выбрасывает» их в любом случае)
Sayse 03 июль 2014, в 07:52

Показать ещё 4 комментария

Теги:

c#

c++

floating-point

delphi

1 ответ

Ещё вопросы

В любом случае Double имеет точность 16 цифр. Разве вы не должны использовать десятичный тип?
Не является ли результат C # правильным? Например, я ожидаю Math.Round (0,18, 1) == 0,2. Или вы хотите округлить его?
Если вы хотите округлить, значит, вы все время использовали неправильный код. Вы должны поставить требования в вопросе.
@Sayse Что ты имеешь в виду? Код в вопросе предоставляет только правильное количество цифр, обычно необходимое для идентификации числа двойной точности IEEE 754.
@PascalCuoq - я предлагаю, так как большая часть значения будет потеряна, OP может быть лучше использовать десятичный тип для своих числовых потребностей (я понимаю, что он «выбрасывает» их в любом случае)

David Heffernan · Accepted Answer · 2014-07-03T04-24-00.000Z

Ответ, который дает версия C++, просто неверно. Это должно быть очевидно. Ясно, что 2E-12 является правильным ответом, поскольку SimpleRoundTo, как и Math.Round, округляется до ближайшего.

Итак, если вы хотите воспроизвести ошибочный вывод версии C++ на С#, вам нужно будет перевести код Delphi RTL на С#. Это потребует разработки именно того, что SimpleRoundTo и преобразование String(). Или p/вызвать в DLL C++.

Я хотел бы заняться этим, пытаясь понять, что должен сделать исходный код. Выражайте это математически, а не в терминах функций RTL. После того, как у вас есть четкая спецификация того, что вы намерены использовать для кода, введите код на С#, используя естественные механизмы С#. Другими словами, не пытайтесь выполнить буквальный перевод, потому что, вероятно, не существует. Вместо этого понимайте намерение исходного кода и реализуйте его с нуля в С#.

Глядя на свой код, вы выполняете округление, а затем конвертируете в текст. Я бы искал подход, который выполнял округление как часть преобразования в текст.