Получение 0 при попытке вычислить наклон

Question

Получение 0 при попытке вычислить наклон

1

Вот конкретное уравнение, которое дает мне 0, когда он должен давать мне -0.4 (-2/5)

slope2 = ((yVals[i+2] - originY) / (xVals[i+2] - originX));

(-2 - 0)/(2 + 3)

slope2 - двойной

yVals [] - массив int

origin - int

Почему он продолжает возвращаться 0? Я знаю, что переменные вызываются правильно, потому что я сделал println на разных vals, и они верны.

mickdeez 30 апр. 2014, в 02:06

Источник

0

Таким образом, все переменные в правой части уравнения являются целыми числами?
jeffrey_t_b 30 апр. 2014, в 00:01
3

Вы выполняете целочисленное деление.
dave 30 апр. 2014, в 00:01
0

Разделите каждое подвыражение на собственную переменную и посмотрите, как будут развиваться значения, как только вы начнете их комбинировать.
Jeroen Vannevel 30 апр. 2014, в 00:01
0

Итак, может быть, мне нужно временно преобразовать int в double?
mickdeez 30 апр. 2014, в 00:01
0

@JeroenVannevel да, я сделал это и подтвердил, что они верны
mickdeez 30 апр. 2014, в 00:02

Показать ещё 3 комментария

Теги:

java

math

zero

int

1 ответ

Ещё вопросы

Таким образом, все переменные в правой части уравнения являются целыми числами?
Вы выполняете целочисленное деление.
Разделите каждое подвыражение на собственную переменную и посмотрите, как будут развиваться значения, как только вы начнете их комбинировать.
Итак, может быть, мне нужно временно преобразовать int в double?
@JeroenVannevel да, я сделал это и подтвердил, что они верны

rgettman · Accepted Answer · 2014-04-29T22-40-00.000Z

Вы выполняете целочисленное деление в Java, где математика, выполненная с использованием int должна давать int, поэтому деление усекает все, что находится за пределами десятичной точки. Это означает, что в Java -2/5 равно 0. Недостаточно того, чтобы цель задания была double. Один из операндов должен быть double (или float), чтобы заставить арифметику с плавающей запятой.

Передайте один из операндов оператору / в double чтобы заставить арифметику с плавающей запятой.

slope2 = ( (double) (yVals[i+2] - originY) / (xVals[i+2] - originX));