zur Institutsseite   
Geoinformatik-Service

Lexikon | Wörterbuch | Vorlesung | Links | Produkte | Literatur | Ausbildung | Schriften

 zur Universitätsseite
 

Double precision 

dt.: Doppelte Genauigkeit
Themengebiet: Allgemeine Informatik

Bedeutung:
Die Angabe doppelte Genauigkeit bezieht sich typischerweise auf die Verwendung eines double word (in 32-bit-Computern also von 64 bits), um Gleitkommazahlen, in diesem Fall mit einer Präzision von etwa 16 signifikanten Zeichen darzustellen. Hat Einfluss auf die darstellbare Koordinatenangabe, basierend auf der möglichen Zahl signifikanter Ziffern, die für jede Koordinate gespeichert werden können. Während single-precision-Daten bis zu 7 signifikante Ziffern für jede Koordinate speichern können und folglich eine Präzision von 1 Meter in einer Ausdehnung von 1.000.000 Metern erreichen, können double-precision-Daten bis zu 15 signifikante Ziffern pro Koordinate speichern (typischerweise 13 bis 14) und sie erreichen deshalb eine Genauigkeit (Differenzierungsmöglichkeit) von viel weniger als 1 m bezüglich der Größe der Erde.

Zum Begriff:
Korrekturen/Ergänzungen schreiben
Letzte Änderung: 05.08.2002



zurück nach obenProfessur für Geodäsie und Geoinformatik (GG) AUF Universität Rostock
© 2001-2016 GG - All Rights Reserved - Kontakt - Webmaster