Большие числа округляются [c #]

Question

Большие числа округляются [c #]

2

У меня есть какая-то странная проблема. У меня есть таблица базы данных, которая имеет огромное значение, хранящуюся в столбце. Мое приложение (С#) считывает это значение и сохраняется в двойном типе. Это приложение будет вставлять то же значение в другую таблицу. Примечание. Я не делаю никаких вычислений/обработки значения, считанного из первой таблицы. Он просто хранится для обновления второй таблицы.

Проблема здесь, вторая таблица получает немного другое значение, чем в первой таблице. Похоже, что число округляется, когда я держусь в двойном типе.

Вот пример значений.

Исходное значение: 18014398509481984

Значение, скопированное в новую таблицу: 18014398509482000

Значения выглядят по-разному, но в действительности они одинаковы. Я выполнил поиск в google с 18014398509481984 - 18014398509482000 как поисковый запрос, и он вернул результат 0, что означает, что оба они одинаковы.

Вопросы

1 - Если оба одинаковы, почему второе значение выглядит иначе? Я могу видеть 1984 в 2000.

2 - Почему происходит преобразование?

3 - Как избежать этого типа преобразований?

Любая помощь будет замечательной!

Navaneeth K N 16 июль 2009, в 16:50

Источник

1

Какой тип столбца в первой таблице? А во второй таблице? Похоже, что происходит преобразование из большого целого (64 бита) в двойное, теряя точность в операции, даже без какой-либо обработки.
FWH 16 июль 2009, в 14:38
1

RE: поиск в Google. LMFAO: D
Ian Robinson 16 июль 2009, в 14:39
0

«все числа равны» - вы можете легко доказать это таким образом - это отличная платформа для следующих выборов
DK. 16 июль 2009, в 14:42
0

и да, пожалуйста, попробуйте Decimal и проверьте точность DB (какой тип вы там используете, кстати?) и .Net, чтобы увидеть, где преобразование может изменить значение
DK. 16 июль 2009, в 14:46
0

Используйте калькулятор Windows, и вы увидите, что цифры не равны. Просто у Google такое же поведение округления, как и у вашего программного обеспечения. Он использует значения с плавающей запятой двойной точности, когда значение слишком велико, чтобы поместиться в 32-разрядное целое число (очевидно).
BlueMonkMN 16 июль 2009, в 14:49
0

Или используйте wolframalpha.com вместо Google для математики.
BlueMonkMN 16 июль 2009, в 14:50
0

@FWH: тип столбца - NUMBER, а база данных - ORACLE.
Navaneeth K N 16 июль 2009, в 15:16

Показать ещё 5 комментариев

Теги:

c#

math

double

rounding

4 ответа

3

Значение двойной точности является точной только для 15 или 16 десятичных цифр (см. здесь для объяснения). Если вам нужно сохранить больше, чем это, вам придется использовать другой формат номера. Если вы хотите работать с очень большими целыми числами без потери точности, тогда есть различные классы, которые помогут вам этот.

Если вы получаете значение из SQL, убедитесь, что ваш целевой тип данных в .NET соответствует - SQL bigint для С# long, например, чтобы избежать проблем округления, подобных этому.

David M 16 июль 2009, в 12:19

0

Мой тип таблицы NUMBER, и я использую базу данных Oracle
Navaneeth K N 16 июль 2009, в 16:49

2

Я считаю, что это связано с точностью с плавающей запятой (большое число будет использовать мантисса экспонента), что означает, что он будет по существу представлен как фракционное число с мощностью. Однако дробные числа сталкиваются с ошибками округления из-за арифметики с плавающей запятой.

Обычно, чтобы избежать значений с плавающей запятой (попробуйте Int64), используйте более точный тип (десятичный) или учетную запись для ошибки и сделайте "приблизительно равным".

Ian 16 июль 2009, в 13:12

0

Благодарю. Что вы подразумеваете под «примерно равно»?
Navaneeth K N 16 июль 2009, в 17:01
0

Вы можете добавить метод расширения в Double или статический метод, который определяет, будут ли значения, скажем, 0,001% друг в друге, и если это так, предположите, что они равны. Очевидно, вы установили порог в точке, с которой вы счастливы.
Ian 17 июль 2009, в 08:30

2

Нужно ли хранить их как числа с плавающей запятой?

Если нет, вы можете вместо этого использовать 64-битные целые числа: BIGINT в базе данных и long/Int64 в вашем приложении.

Они имеют диапазон от -9,223,372,036,854,775,808 до 9,223,372,036,854,775,807 и не имеют проблем с точностью и точностью.

LukeH 16 июль 2009, в 13:06

0

Благодарю. Но моим значением будет число с плавающей запятой. Так что я думаю int64 или long не подойдет.
Navaneeth K N 16 июль 2009, в 16:58

Ещё вопросы

Какой тип столбца в первой таблице? А во второй таблице? Похоже, что происходит преобразование из большого целого (64 бита) в двойное, теряя точность в операции, даже без какой-либо обработки.
«все числа равны» - вы можете легко доказать это таким образом - это отличная платформа для следующих выборов
и да, пожалуйста, попробуйте Decimal и проверьте точность DB (какой тип вы там используете, кстати?) и .Net, чтобы увидеть, где преобразование может изменить значение
Используйте калькулятор Windows, и вы увидите, что цифры не равны. Просто у Google такое же поведение округления, как и у вашего программного обеспечения. Он использует значения с плавающей запятой двойной точности, когда значение слишком велико, чтобы поместиться в 32-разрядное целое число (очевидно).
Или используйте wolframalpha.com вместо Google для математики.
@FWH: тип столбца - NUMBER, а база данных - ORACLE.
Мой тип таблицы NUMBER, и я использую базу данных Oracle
Благодарю. Что вы подразумеваете под «примерно равно»?
Вы можете добавить метод расширения в Double или статический метод, который определяет, будут ли значения, скажем, 0,001% друг в друге, и если это так, предположите, что они равны. Очевидно, вы установили порог в точке, с которой вы счастливы.
Благодарю. Но моим значением будет число с плавающей запятой. Так что я думаю int64 или long не подойдет.

Tim S. Van Haren · Accepted Answer · 2009-07-16T11-59-00.000Z

Попробуйте использовать System.Decimal для сохранения значения из первой таблицы вместо System.Double. System.Double, похоже, не содержит достаточно значимых цифр, чтобы точно хранить это значение.

Благодарю. Я попробую с десятичным типом.