Сумма Kotlin Double или BigDecimal возвращает неожиданный результат

Я пытаюсь получить общее количество двойных значений, но он возвращает неожиданные результаты. Проверьте следующий снимок экрана: Сумма Kotlin Double или BigDecimal возвращает неожиданный результат

Ссылка для код Код:

import java.math.BigDecimal
/**
 * You can edit, run, and share this code.
 * play.kotlinlang.org
 */
fun main() {
    val items = listOf(MyItem(BigDecimal(3.6)), MyItem(BigDecimal(2.0)), MyItem(BigDecimal(4.3)), MyItem(BigDecimal(0.1)))
    println(items.sumOf { it.amount })
}

data class MyItem(val amount: BigDecimal)

Ожидаемый результат: 10.0

Фактический результат: 9.9999999999999999167332731531132594682276248931884765625

Вы получите "10.0", если передадите строки BigDecimal. Вы теряете точность до создания BigDecimals, потому что вы передаете ему двойные значения.

marstran 04.04.2022 15:33

Должен быть лучший дубликат, который также включает совет использовать конструктор строк BigDecimal.

President James K. Polk 04.04.2022 17:41
Стоит ли изучать PHP в 2023-2024 годах?
Стоит ли изучать PHP в 2023-2024 годах?
Привет всем, сегодня я хочу высказать свои соображения по поводу вопроса, который я уже много раз получал в своем сообществе: "Стоит ли изучать PHP в...
Поведение ключевого слова "this" в стрелочной функции в сравнении с нормальной функцией
Поведение ключевого слова "this" в стрелочной функции в сравнении с нормальной функцией
В JavaScript одним из самых запутанных понятий является поведение ключевого слова "this" в стрелочной и обычной функциях.
Приемы CSS-макетирования - floats и Flexbox
Приемы CSS-макетирования - floats и Flexbox
Здравствуйте, друзья-студенты! Готовы совершенствовать свои навыки веб-дизайна? Сегодня в нашем путешествии мы рассмотрим приемы CSS-верстки - в...
Тестирование функциональных ngrx-эффектов в Angular 16 с помощью Jest
В системе управления состояниями ngrx, совместимой с Angular 16, появились функциональные эффекты. Это здорово и делает код определенно легче для...
Концепция локализации и ее применение в приложениях React ⚡️
Концепция локализации и ее применение в приложениях React ⚡️
Локализация - это процесс адаптации приложения к различным языкам и культурным требованиям. Это позволяет пользователям получить опыт, соответствующий...
Пользовательский скаляр GraphQL
Пользовательский скаляр GraphQL
Листовые узлы системы типов GraphQL называются скалярами. Достигнув скалярного типа, невозможно спуститься дальше по иерархии типов. Скалярный тип...
0
2
26
2
Перейти к ответу Данный вопрос помечен как решенный

Ответы 2

Проблема в том, что вы создаете экземпляры BigDecimal, используя значения Double, что приводит к проблемам с округлением.

Вместо этого вы можете написать:

val items = listOf(MyItem(BigDecimal("3.6")), MyItem(BigDecimal("2.0")), MyItem(BigDecimal("4.3")), MyItem(BigDecimal("0.1")))

Тогда ваш результат 10.0.

Ответ принят как подходящий

В большинстве случаев лучше предоставлять числа для BigDecimal в виде строк, а не с плавающей запятой:

val items = listOf(MyItem(BigDecimal("3.6")), MyItem(BigDecimal("2.0")), MyItem(BigDecimal("4.3")), MyItem(BigDecimal("0.1")))

Это решает вашу проблему.

Несколько пояснений: числа с плавающей запятой по своей природе неточны для хранения десятичных дробей. Они лишь обеспечивают близкий результат, но не тот, который мы ожидаем.

BigDecimal пытается решить эту проблему. Это делает некоторые трюки, чтобы представить число, как мы и ожидали. Но для этого ему нужно понять, как мы хотим представлять числа, какова наша ожидаемая точность и т. д. Он может вычитать это из чисел, предоставленных строками, но не из чисел с плавающей запятой/двойников.

Другие вопросы по теме