Donetsk National Technical University
Please use this identifier to cite or link to this item:
https://ea.donntu.edu.ua/jspui/handle/123456789/18912| Title: | Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой |
| Authors: | Иваница, Сергей Васильевич |
| Keywords: | постбинарный формат числа погрешность округление чисел интервал |
| Issue Date: | Sep-2012 |
| Publisher: | Научно-теоретический журнал "Искусственный интеллект" |
| Series/Report no.: | № 4 |
| Abstract: | В статье рассмотрена точность представления чисел с плавающей запятой и показаны формулы для расчета абсолютной и относительной погрешностей для бинарных и постбинарных форматов. Получены формулы для расчета погрешностей всех форматов и выявлена закономерность между значениями погрешности постбинарного и бинарного форматов одного класса точности. Рассмотрены стандартные способы округления чисел с плавающей запятой и предложен новый способ округления чисел в постбинарных форматах. |
| URI: | http://ea.donntu.edu.ua/handle/123456789/18912 |
| ISSN: | 1561-5359 |
| Appears in Collections: | Наукові публікації кафедри комп'ютерної інженерії |
Files in This Item:
| File | Description | Size | Format | |
|---|---|---|---|---|
| Ivanitsa.pdf | 326,68 kB | Adobe PDF | View/Open |
Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.