Вопросы по теме 'floating-point'

Как вручную разобрать число с плавающей запятой из строки
Конечно, в большинстве языков для этого есть библиотечные функции, но предположим, что я хочу сделать это сам. Предположим, что число с плавающей запятой задано так же, как в программе на C или Java (за исключением суффикса «f» или «d»), например,...
18410 просмотров
parsing precision floating-point
schedule 24.07.2022
Плавающее или двойное специальное значение
У меня есть переменные типа double (или float), которые могут быть «пустыми», как если бы они не содержали допустимого значения. Как я могу представить это состояние с помощью встроенных типов float и double? Одним из вариантов может быть оболочка...
6105 просмотров
c++ double floating-point
schedule 11.01.2024
целое число автоматически преобразуется в двойное, но не в плавающее
У меня есть функция, как показано ниже: пустое добавление (int&,float&,float&); и когда я звоню: добавить(1,30,30) он не компилируется. add(1,30.0,30.0) тоже не компилируется. Кажется, что в обоих случаях он неявно преобразуется в...
2777 просмотров
c++ double floating-point
schedule 04.02.2024
Как я могу проверить, может ли строка быть преобразована в число с плавающей запятой?
Во-первых, мой контекст - это контекст автора компилятора, которому нужно преобразовать литералы с плавающей запятой (строки) в значения с плавающей запятой/двойные числа. Я не занимался программированием с плавающей запятой последние 15 лет, поэтому...
5598 просмотров
c type-conversion floating-point
schedule 29.07.2022
Как вы справляетесь с проблемами округления с плавающей запятой?
Увидев этот пост об ошибках с плавающей запятой на slashdot , мне стало любопытно, какие другие решения существуют для решения таких ошибок округления с плавающей запятой. Итак, о какой ошибке с плавающей запятой вы узнали больше всего и что вы...
637 просмотров
floating-point
schedule 19.04.2024
C/C++ — преобразование 24-битного целого числа со знаком в число с плавающей запятой
Я программирую на С++. Мне нужно преобразовать 24-битное целое число со знаком (хранящееся в 3-байтовом массиве) в число с плавающей запятой (нормализация до [-1.0,1.0]). Платформа — MSVC++ на x86 (что означает, что ввод осуществляется с прямым...
16155 просмотров
c c++ floating-point integer 24-bit
schedule 26.11.2023
C++ Точность: строка удваивается
У меня возникла проблема с точностью двойного числа после выполнения некоторых операций над преобразованной строкой в ​​двойное значение. #include <iostream> #include <sstream> #include <math.h> using namespace std; //...
2352 просмотров
c++ floating-point floating-accuracy
schedule 18.08.2022
Как работать с большими числами в javascript
Я ищу математическое решение, которое имеет дело с действительно (длинными, большими, огромными, бурями) числами. Я еще ничего не нашел, но я не хочу думать, что эта проблема не решена в настоящее время. Я ищу простое числовое решение, такое как...
57352 просмотров
javascript decimal floating-point bignum biginteger
schedule 20.05.2024
Не удается инициализировать использование двойного (fp64) в программах OpenCL
когда я использую следующую строку в своих программах OpenCL #pragma OPENCL EXTENSION cl_khr_fp64 : enable Я получаю следующую ошибку OpenCL: cl::Error: -46, (std::exception.what() returns "clCreateKernel") Кто-нибудь знает, почему?...
1458 просмотров
double floating-point opencl
schedule 08.09.2022
Сравнение чисел с плавающей запятой в tcl
У меня возникают проблемы при вычислении расстояния между точкой и линией. Существует проблема вычисления числа с плавающей запятой (сравните выражение). Из-за этого я не могу точно определить значение $onextensionFlag. пожалуйста, смотрите...
2902 просмотров
floating-point math tcl
schedule 25.11.2023
Как преобразовать пользовательские данные в uint32 или float?
Как преобразовать пользовательские данные следующим образом: local user_data = { 0x33, 0x22, 0x11, 0x00 } либо на uint32, либо на плавание с использованием Lua? Я не могу найти ничего в документации, что говорит об этом. Я пробовал разные...
2703 просмотров
floating-point lua uint32
schedule 11.02.2024
как я могу отключить экспоненциальную запись при выборе числа с плавающей запятой из MySQL?
У меня есть столбец FLOAT, содержащий очень маленькие числа, например 0,00000000000234. Когда я выбираю их в MySQL, я возвращаю их в экспоненциальной записи, например 2.34e-13. Можно ли каким-либо образом изменить форматирование этих чисел, чтобы...
5479 просмотров
mysql floating-point
schedule 31.03.2024
Как преобразовать строку в float?
Возможный дубликат: преобразовать строку в плавающую Цель-C Я хотел бы преобразовать строку в число с плавающей запятой. /* dict is an NSDictionary to load Preferences */ NSString *str = [dict objectForKey:@"key"]; Вот где я...
26869 просмотров
ios cocoa-touch objective-c floating-point nsstring
schedule 25.07.2022
Сохранение BigDecimal в десятичном поле в базе данных делает BigDecimal другим
Я всегда думал, что вы никогда не должны использовать числа с плавающей запятой для экономии денег в базе данных. Поэтому я использовал десятичную. Проблема в том, что я сохраняю десятичное число 100, и оно помещается в базу данных как 99,9999. У...
4036 просмотров
ruby ruby-on-rails bigdecimal floating-point
schedule 05.11.2022
Преобразование 32-битного беззнакового типа данных Real (разделенного на два 16-битных слова со знаком) в javascript
у меня есть 32-битное значение "Real" без знака, разделенное на два 16-битных значения "Word" (0-65535) со знаком. Как преобразовать их в число javascript? Пример: Значение1: 18584 Значение2: 18081 Реальное значение: 20644,3 Я ищу такую...
4054 просмотров
node.js javascript floating-point
schedule 11.09.2022
Использование с плавающей запятой одинарной точности
Я хотел бы ввести некоторые команды SSE в свой код C++. Такой как этот: http://msdn.microsoft.com/en-us/library/afh0zf75(v=VS.80).aspx Если я правильно понимаю, мне нужно установить для точности с плавающей запятой значение single, чтобы...
524 просмотров
visual-studio-2010 precision floating-point sse
schedule 02.05.2024
OpenCV CvMat to Mat и указатели
Я пытаюсь преобразовать некоторый код с использованием OpenCV CvMat в Mat, но у меня возникли проблемы с указателями. Это исходный код: CvMat *m_projectedTrainFaceMat; float d_i; i = 0; d_i = projectTestFace[i] -...
3701 просмотров
c++ opencv matrix floating-point pointers
schedule 02.11.2023
Хеширование значений с плавающей запятой
Недавно мне стало любопытно, как работают алгоритмы хэширования для операций с плавающей запятой, поэтому я посмотрел исходный код boost::hash_value . Это оказывается довольно сложным . Фактическая реализация перебирает каждую цифру в системе...
6044 просмотров
c++ hash floating-point
schedule 10.10.2023
Как уменьшить масштаб блоков, не вызывая перекрытия пикселей
У меня есть куча блоков, которые нужно нарисовать в сетке. Теперь, отображая их в немасштабированном виде, все в порядке, но когда я пытаюсь уменьшить их, чтобы они соответствовали окну, я получаю «артефакты масштабирования», потому что я использую...
226 просмотров
c++ scale floating-point math pixel
schedule 10.11.2022
Сравнение с плавающей запятой дает разные результаты
Посмотрите на следующие два кода и скажите мне, почему ответы сильно различаются. #include<stdio.h> int main() { float a = 0.9; if(a<0.9) printf("hi"); // This will be the answer else printf("bye"); return...
1656 просмотров
c c++ floating-point
schedule 25.09.2022