Reklama

dokladnosc

(precyzja, precision)

liczba bitów przeznaczona do pamietania ulamka dwójkowego (mantysy) w reprezentacji liczby zmiennopozycyjnej; w komputerach osobistych przeznaczona na ten cel liczba bitów zapewnia dokladnosc rzedu 7 (d o k l a d n o s c p o j e- d y n c z a - single precision) lub 15 (d o- k l a d n o s c p o d w ó j n a - double precision) miejsc dziesietnych. Dokladnosci podwójnej odpowiada deklaracja typu double w programach w jezyku C (i pochodnych); dokladnosci pojedynczej odpowiada typ float. Miara d. jest minimalny blad wzgledny, jaki daje sie osiagnac w reprezentacji maszynowej liczby. Normy sprzetowe definiuja tez d o k l a d n o s c p o c z w ó r n a (long double precision); liczb poczwórnej precyzji mozna uzywac w niektórych superkomputerach. Dowolna d. mozna uzyskac metodami programowymi, jednak obliczenia zajmuja wówczas wielokrotnie wiecej czasu. Zob. tez IEEE-754.

Reklama

Podobne hasła:

Encyklopedia Internautica
Reklama
Reklama
Reklama