|
Форум: Firebird, HQbird, InterBase
|
|
Тема: FLOAT
|
| FLOAT [сообщение #6288] |
Mon, 23 February 2026 08:46 |
bsa1959
Сообщений: 7
Зарегистрирован: December 2025
|
Junior Member |
|
|
Возникла проблема округления в процедуре FIREBIRD 5.
В таблице есть поле типа FLOAT. Имеет значения от 1.00 до 1.60 через 0.1.
Процедура возвращает нехорошие значения. Т.е. не соответствуют значениям посчитаным вручную.
Прошел под IBEXPERT в отладке.
Вместо 1.00 увидел 1.0139 для этого поля после чтения из таблицы...
Где я не прав?
Хотя по документации:
Тип данных FLOAT по умолчанию представляет собой 32-битный тип с плавающей запятой
одинарной точности с приблизительной точностью 7 десятичных знаков после десятичной
точки (24 двоичных знака). Числа типа FLOAT находятся в диапазоне от 1.175 x 10-38 до 3.402 x
1038.
[Обновления: Mon, 23 February 2026 08:54] Известить модератора |
|
|
|
| Re: FLOAT [сообщение #6291 является ответом на сообщение #6288] |
Mon, 23 February 2026 15:22 |
SD
Сообщений: 460
Зарегистрирован: August 2022
|
Senior Member |
|
|
Ты путаешь точность отдельно взятого числа и точность серии расчётов пачки таких чисел.
Переходи на точные числа, раз у тебя шаг фиксированный.
|
|
|
|
SQLRU.net
Поиск
Помощь
Участники
Регистрация
Вход
Начало
