Вопросы по теме 'floating-point'
Как вручную разобрать число с плавающей запятой из строки
Конечно, в большинстве языков для этого есть библиотечные функции, но предположим, что я хочу сделать это сам.
Предположим, что число с плавающей запятой задано так же, как в программе на C или Java (за исключением суффикса «f» или «d»), например,...
18410 просмотров
schedule
24.07.2022
Плавающее или двойное специальное значение
У меня есть переменные типа double (или float), которые могут быть «пустыми», как если бы они не содержали допустимого значения. Как я могу представить это состояние с помощью встроенных типов float и double?
Одним из вариантов может быть оболочка...
6105 просмотров
schedule
11.01.2024
целое число автоматически преобразуется в двойное, но не в плавающее
У меня есть функция, как показано ниже:
пустое добавление (int&,float&,float&);
и когда я звоню:
добавить(1,30,30)
он не компилируется.
add(1,30.0,30.0) тоже не компилируется.
Кажется, что в обоих случаях он неявно преобразуется в...
2777 просмотров
schedule
04.02.2024
Как я могу проверить, может ли строка быть преобразована в число с плавающей запятой?
Во-первых, мой контекст - это контекст автора компилятора, которому нужно преобразовать литералы с плавающей запятой (строки) в значения с плавающей запятой/двойные числа. Я не занимался программированием с плавающей запятой последние 15 лет, поэтому...
5598 просмотров
schedule
29.07.2022
Как вы справляетесь с проблемами округления с плавающей запятой?
Увидев этот пост об ошибках с плавающей запятой на slashdot , мне стало любопытно, какие другие решения существуют для решения таких ошибок округления с плавающей запятой. Итак, о какой ошибке с плавающей запятой вы узнали больше всего и что вы...
637 просмотров
schedule
19.04.2024
C/C++ — преобразование 24-битного целого числа со знаком в число с плавающей запятой
Я программирую на С++. Мне нужно преобразовать 24-битное целое число со знаком (хранящееся в 3-байтовом массиве) в число с плавающей запятой (нормализация до [-1.0,1.0]).
Платформа — MSVC++ на x86 (что означает, что ввод осуществляется с прямым...
16155 просмотров
schedule
26.11.2023
C++ Точность: строка удваивается
У меня возникла проблема с точностью двойного числа после выполнения некоторых операций над преобразованной строкой в двойное значение.
#include <iostream>
#include <sstream>
#include <math.h>
using namespace std;
//...
2352 просмотров
schedule
18.08.2022
Не удается инициализировать использование двойного (fp64) в программах OpenCL
когда я использую следующую строку в своих программах OpenCL
#pragma OPENCL EXTENSION cl_khr_fp64 : enable
Я получаю следующую ошибку OpenCL:
cl::Error: -46, (std::exception.what() returns "clCreateKernel")
Кто-нибудь знает, почему?...
1458 просмотров
schedule
08.09.2022
Сравнение чисел с плавающей запятой в tcl
У меня возникают проблемы при вычислении расстояния между точкой и линией. Существует проблема вычисления числа с плавающей запятой (сравните выражение). Из-за этого я не могу точно определить значение $onextensionFlag. пожалуйста, смотрите...
2902 просмотров
schedule
25.11.2023
Как преобразовать пользовательские данные в uint32 или float?
Как преобразовать пользовательские данные следующим образом:
local user_data = { 0x33, 0x22, 0x11, 0x00 }
либо на uint32, либо на плавание с использованием Lua? Я не могу найти ничего в документации, что говорит об этом.
Я пробовал разные...
2703 просмотров
schedule
11.02.2024
как я могу отключить экспоненциальную запись при выборе числа с плавающей запятой из MySQL?
У меня есть столбец FLOAT, содержащий очень маленькие числа, например 0,00000000000234.
Когда я выбираю их в MySQL, я возвращаю их в экспоненциальной записи, например 2.34e-13. Можно ли каким-либо образом изменить форматирование этих чисел, чтобы...
5479 просмотров
schedule
31.03.2024
Как преобразовать строку в float?
Возможный дубликат: преобразовать строку в плавающую Цель-C
Я хотел бы преобразовать строку в число с плавающей запятой.
/* dict is an NSDictionary to load Preferences */
NSString *str = [dict objectForKey:@"key"];
Вот где я...
26869 просмотров
schedule
25.07.2022
Сохранение BigDecimal в десятичном поле в базе данных делает BigDecimal другим
Я всегда думал, что вы никогда не должны использовать числа с плавающей запятой для экономии денег в базе данных. Поэтому я использовал десятичную. Проблема в том, что я сохраняю десятичное число 100, и оно помещается в базу данных как 99,9999.
У...
4036 просмотров
schedule
05.11.2022
Преобразование 32-битного беззнакового типа данных Real (разделенного на два 16-битных слова со знаком) в javascript
у меня есть 32-битное значение "Real" без знака, разделенное на два 16-битных значения "Word" (0-65535) со знаком. Как преобразовать их в число javascript?
Пример: Значение1: 18584 Значение2: 18081 Реальное значение: 20644,3
Я ищу такую...
4054 просмотров
schedule
11.09.2022
Использование с плавающей запятой одинарной точности
Я хотел бы ввести некоторые команды SSE в свой код C++. Такой как этот:
http://msdn.microsoft.com/en-us/library/afh0zf75(v=VS.80).aspx
Если я правильно понимаю, мне нужно установить для точности с плавающей запятой значение single, чтобы...
524 просмотров
schedule
02.05.2024
OpenCV CvMat to Mat и указатели
Я пытаюсь преобразовать некоторый код с использованием OpenCV CvMat в Mat, но у меня возникли проблемы с указателями.
Это исходный код:
CvMat *m_projectedTrainFaceMat;
float d_i;
i = 0;
d_i = projectTestFace[i] -...
3701 просмотров
schedule
02.11.2023
Хеширование значений с плавающей запятой
Недавно мне стало любопытно, как работают алгоритмы хэширования для операций с плавающей запятой, поэтому я посмотрел исходный код boost::hash_value . Это оказывается довольно сложным . Фактическая реализация перебирает каждую цифру в системе...
6044 просмотров
schedule
10.10.2023
Как уменьшить масштаб блоков, не вызывая перекрытия пикселей
У меня есть куча блоков, которые нужно нарисовать в сетке. Теперь, отображая их в немасштабированном виде, все в порядке, но когда я пытаюсь уменьшить их, чтобы они соответствовали окну, я получаю «артефакты масштабирования», потому что я использую...
226 просмотров
schedule
10.11.2022
Сравнение с плавающей запятой дает разные результаты
Посмотрите на следующие два кода и скажите мне, почему ответы сильно различаются.
#include<stdio.h>
int main() {
float a = 0.9;
if(a<0.9)
printf("hi"); // This will be the answer
else
printf("bye");
return...
1656 просмотров
schedule
25.09.2022
Значение Javascript не отображает десятичные дроби, если оно не равно 0,00
//Value being parsed at this point is "150.00"
var productValue = parseFloat($("#product-cost-value-value").text().replace(',', '.'));
console.log(productValue);
Регистрируемое значение - 150 .
Однако, если я добавлю к нему некоторую...
6788 просмотров
schedule
17.02.2024
