Я пытаюсь получить общее количество двойных значений, но он возвращает неожиданные результаты. Проверьте следующий снимок экрана:
Ссылка для код Код:
import java.math.BigDecimal
/**
* You can edit, run, and share this code.
* play.kotlinlang.org
*/
fun main() {
val items = listOf(MyItem(BigDecimal(3.6)), MyItem(BigDecimal(2.0)), MyItem(BigDecimal(4.3)), MyItem(BigDecimal(0.1)))
println(items.sumOf { it.amount })
}
data class MyItem(val amount: BigDecimal)
Ожидаемый результат: 10.0
Фактический результат: 9.9999999999999999167332731531132594682276248931884765625
Должен быть лучший дубликат, который также включает совет использовать конструктор строк BigDecimal.
Проблема в том, что вы создаете экземпляры BigDecimal
, используя значения Double
, что приводит к проблемам с округлением.
Вместо этого вы можете написать:
val items = listOf(MyItem(BigDecimal("3.6")), MyItem(BigDecimal("2.0")), MyItem(BigDecimal("4.3")), MyItem(BigDecimal("0.1")))
Тогда ваш результат 10.0
.
В большинстве случаев лучше предоставлять числа для BigDecimal
в виде строк, а не с плавающей запятой:
val items = listOf(MyItem(BigDecimal("3.6")), MyItem(BigDecimal("2.0")), MyItem(BigDecimal("4.3")), MyItem(BigDecimal("0.1")))
Это решает вашу проблему.
Несколько пояснений: числа с плавающей запятой по своей природе неточны для хранения десятичных дробей. Они лишь обеспечивают близкий результат, но не тот, который мы ожидаем.
BigDecimal
пытается решить эту проблему. Это делает некоторые трюки, чтобы представить число, как мы и ожидали. Но для этого ему нужно понять, как мы хотим представлять числа, какова наша ожидаемая точность и т. д. Он может вычитать это из чисел, предоставленных строками, но не из чисел с плавающей запятой/двойников.
Вы получите
"10.0"
, если передадите строкиBigDecimal
. Вы теряете точность до создания BigDecimals, потому что вы передаете ему двойные значения.