当前位置：首页 > news >正文

算法小白的心得笔记：比较小数点后五位，而不会受到浮点数精度问题的影响。

news 2025/8/2 22:14:12

epsilon 来比较浮点数

double epsilon = 1e-6; // for 6 decimal places
for (const auto &ratio : colorRatio)
{std::cout << "__" << inum << "__" << ratio << " ";if ((inum - 1) % 10 == 0){std::cout << std::endl;}if (!std::isnan(ratio) && !std::isnan(beta3[inum - 1])){if (std::abs(ratio - beta3[inum - 1]) > epsilon){std::cerr << "\n __" << inum << "__ 计算错误 " << ratio << " 应该是 " << beta3[inum - 1] << std::endl;return 1;}}inum++;
}

double epsilon = 1e-6; // for 6 decimal places
我们可以设置 epsilon 的值来指定有效精度位，如 1e-5是五位精度。

可以比较负数的版本

在上述代码中，我们使用的是std::abs函数来计算两个浮点数之间的差的绝对值，这个函数同样适用于负数。因此，无论你的浮点数是正数还是负数，这段代码都能正确地比较它们的差是否小于epsilon。

如果你的ratio和beta3[inum - 1]都可能是负数，并且你想要比较它们的绝对值，你可以在比较之前先使用std::abs函数将它们转换为正数，如下所示：

if (std::abs(std::abs(ratio) - std::abs(beta3[inum - 1])) > epsilon)
{std::cerr << "\n __" << inum << "__ 计算错误 " << ratio << " 应该是 " << beta3[inum - 1] << std::endl;return 1;
}

这段代码会先计算ratio和beta3[inum - 1]的绝对值，然后再比较它们的差是否小于epsilon。这样，无论你的浮点数是正数还是负数，这段代码都能正确地比较它们。

可能出现的一些问题

由于浮点数在计算机中的表示和存储方式导致的相等内容被判定为不相等。
这个问题可能是由于浮点数在计算机中的表示和存储方式导致的。浮点数在计算机中的表示并不是完全精确的，因此即使两个浮点数在理论上应该相等，但由于精度问题，它们可能在计算机中不相等。

在上述的代码中，使用了一个非常小的正数（称为“epsilon”），如果两个浮点数的差的绝对值小于这个epsilon，那么我们就可以认为这两个浮点数是相等的。这是一种常见的处理浮点数精度问题的方法。

然而，如果epsilon 设置得太小了，导致了这个问题。可以尝试增大epsilon的值，例如将其设置为1e-5或1e-4，看看是否能解决这个问题。

另外，也可以尝试使用其他的比较浮点数的方法，例如使用std::nextafter函数。这个函数可以返回在给定方向上，距离给定浮点数最近的下一个可表示的浮点数。你可以使用这个函数来比较两个浮点数是否相等，如下所示：

if (ratio != std::nextafter(beta3[inum - 1], std::numeric_limits<double>::lowest()) &&ratio != std::nextafter(beta3[inum - 1], std::numeric_limits<double>::max()))
{std::cerr << "\n __" << inum << "__ 计算错误 " << ratio << " 应该是 " << beta3[inum - 1] << std::endl;return 1;
}