Precisión (informática)
|
Este artículo No lo hace Cite cualquier referencias o fuentes. (Marzo de 2007) |
En Ciencias de la computación, precisión de una cantidad numérica es una medida del detalle en el cual se expresa la cantidad. Esto generalmente se mide en bits, pero a veces en decimales. Se relaciona con precisión en matemáticas, que describe el número de dígitos que se utilizan para expresar un valor.
Error de redondeo
Para obtener más información: Coma flotante
La precisión es a menudo la fuente de errores de redondeo en cómputo. El número de bits utilizados para almacenar un número a menudo causará una pérdida de precisión. Un ejemplo sería almacenar sin(0.1) en precisión simple IEEE estándar de punto flotante. El error entonces se amplía a menudo como cálculos posteriores son realizados en los datos (puede también ser reducido).
Véase también
- Aritmética de precisión arbitraria
- IEEE754 (Estándar IEEE de punto flotante)
- Entero (informática)
- Cifras significativas
- Truncamiento