Как работать с действительными числами в Go?
Например:
(627.71/640.26)^(1/30) = 0.999340349 --> correct result
но с Go:
fmt.Print(math.Pow((627.71 / 640.26), (1 / 30))) = 1 --> wrong
Обратите внимание, что наилучшее приближение к действительному числу (для любых реальных чисел) в Go - это mathh / big.Float, а следующие менее точные - это float64s, которые вы использовали. Но никогда думает о них как о настоящих!
Используйте деление с плавающей точкой (действительное), а не целочисленное. Например,
package main
import (
"fmt"
"math"
)
func main() {
fmt.Print(math.Pow((627.71 / 640.26), (1.0 / 30.0)))
}
Детская площадка: https://play.golang.org/p/o7uVw9doaMu
Выход:
0.999340348749526
package main
import "fmt"
func main() {
fmt.Println(1 / 30) // integer division
fmt.Println(1.0 / 30.0) // floating-point division
}
Детская площадка: https://play.golang.org/p/VW9vilCC9M8
Выход:
0
0.03333333333333333
The Go Programming Language Specification
Integer operators
For two integer values x and y, the integer quotient q = x / y and remainder r = x % y satisfy the following relationships:
x = q*y + r and |r| < |y|
with x / y truncated towards zero ("truncated division").
Чтобы устранить что-то вроде этого, вы можете посмотреть на каждую часть своих расчетов и посмотреть, дает ли это ожидаемый результат, быстро вы придете к
1 / 30
, который даст вам ноль.