Начало » Использование СУБД » Firebird, HQbird, InterBase » FLOAT (Точность FLOAT)
| FLOAT [сообщение #6288] |
Mon, 23 February 2026 08:46  |
bsa1959
Сообщений: 12
Зарегистрирован: December 2025
|
Junior Member |
|
|
Возникла проблема округления в процедуре FIREBIRD 5.
В таблице есть поле типа FLOAT. Имеет значения от 1.00 до 1.60 через 0.1.
Процедура возвращает нехорошие значения. Т.е. не соответствуют значениям посчитаным вручную.
Прошел под IBEXPERT в отладке.
Вместо 1.00 увидел 1.0139 для этого поля после чтения из таблицы...
Где я не прав?
Хотя по документации:
Тип данных FLOAT по умолчанию представляет собой 32-битный тип с плавающей запятой
одинарной точности с приблизительной точностью 7 десятичных знаков после десятичной
точки (24 двоичных знака). Числа типа FLOAT находятся в диапазоне от 1.175 x 10-38 до 3.402 x
1038.
[Обновления: Mon, 23 February 2026 08:54] Известить модератора |
|
|
|
 |
|
FLOAT
От: bsa1959 - Mon, 23 February 2026 08:46 |
|
|
Re: FLOAT
От: SD - Mon, 23 February 2026 15:22 |
|
|
Re: FLOAT
От: bsa1959 - Mon, 23 February 2026 19:21 |
|
|
Re: FLOAT
От: bsa1959 - Mon, 23 February 2026 19:47 |
|
|
Re: FLOAT
От: SD - Tue, 24 February 2026 01:27 |
|
|
Re: FLOAT
|
|
|
Re: FLOAT
От: bsa1959 - Tue, 24 February 2026 15:01 |
|
|
Re: FLOAT
От: SD - Tue, 24 February 2026 15:51 |
|
|
Re: FLOAT
От: bsa1959 - Tue, 24 February 2026 16:35 |
|
|
Re: FLOAT
От: sim_84 - Tue, 24 February 2026 19:50 |
|
|
Re: FLOAT
От: SD - Wed, 25 February 2026 01:00 |
|
|
Re: FLOAT
От: basid - Wed, 25 February 2026 02:57 |
|
|
Re: FLOAT
|
|
|
Re: FLOAT
От: bsa1959 - Thu, 26 February 2026 18:49 |
|
|
Re: FLOAT
От: SD - Fri, 27 February 2026 15:32 |
|
|
Re: FLOAT
|
|
|
Re: FLOAT
|
Переход к форуму:
Текущее время: Sun Mar 15 20:54:50 GMT+3 2026
Общее время, затраченное на создание страницы: 0.01423 секунд
|
SQLRU.net
Поиск
Помощь
Участники
Регистрация
Вход
Начало
