Rundungsfehler

Zu einer Basis $b in \{2,\,3,\,...\,\}$ und Mantissenlänge $t in Z^{+}$ sowie für Exponentialschranken $e_{\min} < 0 < e_{\max}$ ist die Menge der normalisierten Maschinenzahlen gegeben durch

$F& = & F(b,......bbZ, \;\; e_{\min} <= e <= e_{\max} \end{array} \}$

und die Menge der denormalisierten Maschinenzahlen gegeben durch

$\widehatF & = & \widehat{\ensurema......ert a_2,\,...,\,a_{t} in \{0,\,1,\,...,\,b-1\} \}$

Es gilt dann

$x_{\min} & := & \min_{f in F |......dehatF | f| = b^{e_{\min}-t}$

Die Maschinengenauigkeit eps ist dann definiert als $\verb*| eps| := \frac12 * b^{1-t}$ .

Möchte man nun eine reelle Zahl durch eine Maschinenzahl darstellen, so gibt es folgende Möglichkeiten:

Runden, d.h. man bestimmt jene Zahl mit
$|{rd}(x) - x| = \min_{y in F | y - x|$
Abschneiden, d.h. man ersetzt $x = sigma * ( sum_{k=1}^{infinity} a_k * b^{-k} ) * b^{e} in R$ durch
${tc}(x) = sigma * ( sum_{k=1}^{t} a_k * b^{-k} ) * b^{e}$

Es gilt:

$| \frac{rd}(x) - x}{x} | <= \ve......c{tr}(x) - x}{x} | <= 2\verb*| eps|$

Für das Rechnen am Computer gibt es ebenfalls zwei Möglichkeiten:

Bei der Gleitpunktarithmetik rechnet man mit Maschinenzahlen, wobei man beachten muss, dass selbst bezüglich der elementaren Operationen , , und $\div$ nicht abgeschlossen ist. Das Ergebnis einer solchen Operation ${op} in \{+,\,-,\,*,\,\div\}$ muss also wieder in eine Maschinenzahl umgewandelt werden, wodurch sich Rundungsfehler akkumulieren. Möglicherweise ist sogar $|{op}(a,b)| < x_{\min}$ bzw. $|{op}(a,b)| > x_{\max}$ (dann spricht man von Unter- bzw. Überlauf), und die Rechnung muss abgebrochen werden.
Bei der Intervallarithmetik rechnet man mit Intervallen, in denen die exakte Zahl enthalten ist. Ungenauigkeiten äußern sich dann in langen Intervallen.

Ein großes Problem (das es zu vermeiden gilt) stellt die Auslöschung dar, die bei der Subtraktion von fast gleichen Zahlen auftritt: In diesem Fall heben sich die führenden Stellen weg, und das Ergebnis ist daher deutlich ungenauer als die beiden Ausgangswerte.