precisió

f
Electrònica i informàtica

Grau de discriminació implícita en un nombre.

Per exemple, un nombre de dues xifres decimals discrimina entre cent resultats possibles, un de vuit bits entre 256. En un ordinador la precisió és limitada per la longitud de mot; quan aquesta dita precisió simple és insuficient, se sol usar precisió doble (o triple), que permet que un operand o resultat s’estengui per dos (o tres) mots.