Вопросы по теме 'rounding-error'
Указание DPI контекста устройства GDI
У меня есть приложение, которое генерирует метафайлы (EMF). Он использует эталонное устройство (также известное как экран) для рендеринга этих метафайлов, поэтому DPI метафайла изменяется в зависимости от того, на какой машине выполняется код....
7520 просмотров
schedule
17.12.2023
Различия в округлении в системе на основе Windows и Unix в sprintf
У меня проблема в системах на основе UNIX, что sprintf не округляет значение должным образом.
Например
double tmp = 88888888888885.875
char out[512];
Это 88,888,888,888,885,875, чтобы было легче для глаз. Я привожу такой конкретный и...
3203 просмотров
schedule
27.07.2022
Плавающие точки в C++ (плавающие и двойные)
Я знаю, что мы не должны использовать числа с плавающей запятой в циклах. Но может ли кто-нибудь объяснить мне, что происходит, когда у нас есть цикл, и мы добавляем небольшое число к большому числу, пока не достигнем определенного значения, которое...
127 просмотров
schedule
08.12.2023