Double precision

dt.: Doppelte Genauigkeit

Themengebiet:

Allgemeine Informatik

Bedeutung:
Die Angabe doppelte Genauigkeit bezieht sich typischerweise auf die Verwendung eines double word (in 32-bit-Computern also von 64 bits), um Gleitkommazahlen, in diesem Fall mit einer Präzision von etwa 16 signifikanten Zeichen darzustellen. Hat Einfluss auf die darstellbare Koordinatenangabe, basierend auf der möglichen Zahl signifikanter Ziffern, die für jede Koordinate gespeichert werden können. Während single-precision-Daten bis zu 7 signifikante Ziffern für jede Koordinate speichern können und folglich eine Präzision von 1 Meter in einer Ausdehnung von 1.000.000 Metern erreichen, können double-precision-Daten bis zu 15 signifikante Ziffern pro Koordinate speichern (typischerweise 13 bis 14) und sie erreichen deshalb eine Genauigkeit (Differenzierungsmöglichkeit) von viel weniger als 1 m bezüglich der Größe der Erde.

Zum Begriff:
Korrekturen/Ergänzungen schreiben
Letzte Änderung: 05.08.2002