Испытания Posit по-взрослому. Спектральный анализ

В ходе обсуждения достоинств и недостатков нового революционного формата с плавающей запятой Posit было cделано заявление, что вообще-то задача Posit — компактно хранить данные, а вовсе не использоваться в вычислениях; при этом сами вычисления делаются…

Испытания Posit по-взрослому

На хабре уже было несколько статей (раз, два, два с половиной), посвящённых новому формату чисел с плавающей запятой Posit, авторы которого преподносят его его как превосходящий стандартный IEEE 754 float по всем параметрам. У нового формата нашлись и …

[Из песочницы] Разбираемся в числах с плавающей точкой

Здравствуйте, хабровчане. Я давно увлекаюсь темой регистров с плавающей точкой. Меня всегда волновало то, как происходит экранизация и т.д. Помню давным давно в универе реализовывал свой класс чисел с плавающей точкой, состоящих из 512 бит. Единственно…

[Из песочницы] Арифметика fixed-point на C++

Сегодня расскажу Вам что такое fixed-point, зачем он нужен и как его можно использовать.

Существует такая проблема когда производительность приложения может заметно ухудшиться из-за особенностей вычисления на числах с плавающей точкой. Как правило C…