Точность деления с плавающей запятой Elixir
Я наблюдаю некоторое неожиданное поведение с плавающей запятой в Эликсире.
4.7 / 0.1 = 47.0 (good!)
4.8 / 0.1 = 47.9999999999 (bad!)
4.9 / 0.1 = 49 (good!)
Хотя я понимаю ограничения точности fp, в данном случае ответ просто выглядит неверным.
Любопытно, что я попробовал это и на питоне и получил тот же результат, что еще более загадочно. Когда я изменил формат на 4.8 * (1/0.1), я получил правильный ответ (48,0).
Что здесь происходит?
Стоит ли изучать PHP в 2026-2027 годах?
Привет всем, сегодня я хочу высказать свои соображения по поводу вопроса, который я уже много раз получал в своем сообществе: "Стоит ли изучать PHP в...
Поведение ключевого слова "this" в стрелочной функции в сравнении с нормальной функцией
В JavaScript одним из самых запутанных понятий является поведение ключевого слова "this" в стрелочной и обычной функциях.
Приемы CSS-макетирования - floats и Flexbox
Здравствуйте, друзья-студенты! Готовы совершенствовать свои навыки веб-дизайна? Сегодня в нашем путешествии мы рассмотрим приемы CSS-верстки - в...
Тестирование функциональных ngrx-эффектов в Angular 16 с помощью Jest
В системе управления состояниями ngrx, совместимой с Angular 16, появились функциональные эффекты. Это здорово и делает код определенно легче для...
Концепция локализации и ее применение в приложениях React ⚡️
Локализация - это процесс адаптации приложения к различным языкам и культурным требованиям. Это позволяет пользователям получить опыт, соответствующий...
Пользовательский скаляр GraphQL
Листовые узлы системы типов GraphQL называются скалярами. Достигнув скалярного типа, невозможно спуститься дальше по иерархии типов. Скалярный тип...
1
0
72
2
Перейти к ответу
Данный вопрос помечен как решенный
Ответы 2
Ответ принят как подходящий
На самом деле это нормальное поведение для чисел с плавающей запятой IEEE 754, не связанное с erlang/elixir. Python или Nodejs вернут одно и то же.
Для получения дополнительной информации вы можете прочитать это подробное объяснение.
Хотя я понимаю ограничения точности fp
Явно нет :-)
Как всегда, если вам нужна десятичная точность, используйте Decimal:
iex(2)> Decimal.div(Decimal.new("4.8"), Decimal.new("0.1"))
#Decimal<48>
iex(3)> Decimal.mult(Decimal.new("4.8"), Decimal.new("10"))
#Decimal<48.0>
Другие вопросы по теме
Эликсир, феникс, экто: не могу добавить данные в свои таблицы
Как пропустить первые 2 строки файла csv?
Как просто вставить несколько ключей-значений в карту?
Phoenix/ Elixir Genserver не запускается автоматически. Ошибка: выключение: не удалось запустить дочерний
Как заставить Phoenix отображать несколько представлений за один вызов render_many для несвязанных схем
Функции Ecto Changeset не вызываются при обновлении
GenServer приводит к сбою всего приложения при обработке несуществующего hande_call
Как вернуть JSON результата Ecto в Phoenix
Как потребовать от пользователя пройти аутентификацию в режиме реального времени, через плагин или альтернативу?
Почему я не могу импортировать тестовые модули напрямую в другие тесты в elixir
Похожие вопросы
Erlang не позволит мне завершить функцию
Erlang получить n-й элемент
IntelliJ выдает «завершение инициализации в do_boot», но та же команда erl работает в командной строке Windows
Как запустить Erlang в образе docker arm64 на хосте x86_64
Запуск приложения Erlang в Eclipse вызывает исключение
Арматура Erlang3 сборки
Ошибка nodedown сервера базы данных Erlang, не удается получить данные базы данных mnesia через логику базы данных
Как я могу определить полный ответ при получении большого количества пакетов в одновременных запросах TCP
Как написать эти вложенные циклы for в Erlang
Ассоциация присоединения к базе данных Erlang