Annulation catastrophique

Cet article est orphelin. Moins de trois articles lui sont liés (mai 2024).

Vous pouvez aider en ajoutant des liens vers [[Annulation catastrophique]] dans les articles relatifs au sujet.

En analyse numérique, l'annulation catastrophique ^[1],[2] est le phénomène qui peut apparaitre lors du calcul de la différence de bonnes approximations de deux nombres proches et peut alors donner une très mauvaise approximation de la différence des nombres d'origine.

Par exemple, s'il y a deux bâtons , un de longueur ${\displaystyle L_{1}=253.51\,{\text{cm}}}$ et l'autre de longueur ${\displaystyle L_{2}=252.49\,{\text{cm}}}$, et qu'ils sont mesurés avec une règle qui n'est précise qu'au centimètre près, alors les approximations pourraient être de ${\displaystyle {\tilde {L}}_{1}=254\,{\text{cm}}}$ et ${\displaystyle {\tilde {L}}_{2}=252\,{\text{cm}}}$. On peut les voir comme de bonnes approximations, en erreur relative, des vraies longueurs : en effet, les approximations sont en erreur de moins de 2% des vraies longueurs : ${\displaystyle |L_{1}-{\tilde {L}}_{1}|/|L_{1}|<2\%}$.

Cependant, si on fait la soustraction des longueurs approximatives, la différence sera ${\displaystyle {\tilde {L}}_{1}-{\tilde {L}}_{2}=254\,{\text{cm}}-252\,{\text{cm}}=2\,{\text{cm}}}$, alors que la véritable différence entre les longueurs est de ${\displaystyle L_{1}-L_{2}=253.51\,{\text{cm}}-252.49\,{\text{cm}}=1.02\,{\text{cm}}}$. La différence des approximations, ${\displaystyle 2\,{\text{cm}}}$, a une erreur relative de près de 100 % de la valeur de la différence des valeurs vraies, ${\displaystyle 1.02\,{\text{cm}}}$.

L’annulation catastrophique n’est pas affectée par la taille des entrées — elle s’applique aussi bien aux entrées grandes comme petites. Cela dépend uniquement de l’amplitude de la différence et de l’erreur commise sur les valeurs d'entrées. Ainsi, on aurait exactement la même erreur qui se produirait en soustrayant ${\displaystyle 52\,{\text{cm}}}$ à ${\displaystyle 54\,{\text{cm}}}$ avec comme approximations ${\displaystyle 52.49\,{\text{cm}}}$ et ${\displaystyle 53.51\,{\text{cm}}}$, ou en soustrayant ${\displaystyle 2.00052\,{\text{km}}}$ depuis ${\displaystyle 2.00054\,{\text{km}}}$ en partant des approximations ${\displaystyle 2.0005249\,{\text{km}}}$ et ${\displaystyle 2.0005351\,{\text{km}}}$.

Une annulation catastrophique peut se produire même si la différence est calculée exactement, comme dans l'exemple ci-dessus — ce n'est pas une propriété d'un type particulier d'arithmétique comme l'arithmétique à virgule flottante ; il est plutôt inhérent à la soustraction, lorsque les entrées sont elles-mêmes des approximations. En effet, en arithmétique à virgule flottante, lorsque les entrées sont suffisamment proches, la différence en virgule flottante est calculée exactement, par le lemme de Sterbenz — il n'y a pas d'erreur d'arrondi introduite par l'opération de soustraction en virgule flottante.

Formellement, une annulation catastrophique se produit parce que la soustraction est mal conditionnée aux entrées proches : même si les approximations ${\displaystyle {\tilde {x}}=x(1+\delta _{x})}$ et ${\displaystyle {\tilde {y}}=y(1+\delta _{y})}$ ont des erreurs relatives ${\displaystyle |\delta _{x}|=|x-{\tilde {x}}|/|x|}$ et ${\displaystyle |\delta _{y}|=|y-{\tilde {y}}|/|y|}$ faibles par rapport aux vraies valeurs ${\displaystyle x}$ et ${\displaystyle y}$, l'erreur relative de la différence ${\displaystyle {\tilde {x}}-{\tilde {y}}}$ des approximations par rapport à la différence des vraies valeurs est inversement proportionnelle à la différence des vraies valeurs :$${\displaystyle {\begin{aligned}{\tilde {x}}-{\tilde {y}}&=x(1+\delta _{x})-y(1+\delta _{y})=x-y+x\delta _{x}-y\delta _{y}\\&=(x-y)\left(1+{\frac {x\delta _{x}-y\delta _{y}}{x-y}}\right).\end{aligned}}}$$Ainsi, l'erreur relative de la différence exacte ${\displaystyle {\tilde {x}}-{\tilde {y}}}$ des approximations à partir de la différence ${\displaystyle x-y}$ des vraies valeurs vaut$${\displaystyle \left|{\frac {x\delta _{x}-y\delta _{y}}{x-y}}\right|.}$$qui peut être arbitrairement grand si les vraies valeurs ${\displaystyle x}$ et ${\displaystyle y}$ sont proches.

La soustraction de nombres proches en arithmétique à virgule flottante ne provoque pas toujours une annulation catastrophique, ni même une erreur — d'après le lemme de Sterbenz, si les nombres sont suffisamment proches, la différence en virgule flottante est exacte. Mais l’annulation peut amplifier les erreurs dans les entrées résultant de l’arrondi d’autres calculs arithmétiques à virgule flottante.

Etant donnés deux nombres ${\displaystyle x}$ et ${\displaystyle y}$, la tentative naïve de calculer la fonction mathématique ${\displaystyle x^{2}-y^{2}}$ par l'arithmétique à virgule flottante ${\displaystyle \operatorname {fl} (\operatorname {fl} (x^{2})-\operatorname {fl} (y^{2}))}$ est sujette à une annulation catastrophique lorsque ${\displaystyle x}$ et ${\displaystyle y}$ sont proches en amplitude, car la soustraction peut exposer les erreurs d'arrondi dans la mise au carré. La factorisation alternative ${\displaystyle (x+y)(x-y)}$, évaluée par l'arithmétique à virgule flottante ${\displaystyle \operatorname {fl} (\operatorname {fl} (x+y)\cdot \operatorname {fl} (x-y))}$, évite une annulation catastrophique car elle évite d'introduire une erreur d'arrondi conduisant à la soustraction^[2].

Par exemple, si ${\displaystyle x=1+2^{-29}\approx 1.0000000018626451}$ et ${\displaystyle y=1+2^{-30}\approx 1.0000000009313226}$, alors la vraie valeur de la différence ${\displaystyle x^{2}-y^{2}}$ est ${\displaystyle 2^{-29}\cdot (1+2^{-30}+2^{-31})\approx 1.8626451518330422\times 10^{-9}}$. En arithmétique IEEE 754 binary64, évaluer la factorisation alternative ${\displaystyle (x+y)(x-y)}$ donne exactement le résultat correct (sans arrondi), mais en évaluant l'expression naïve ${\displaystyle x^{2}-y^{2}}$, on a le nombre à virgule flottante ${\displaystyle 2^{-29}=1.8626451{\underline {4923095703125}}\times 10^{-9}}$, dont moins de la moitié des chiffres sont corrects et les autres chiffres (soulignés) reflètent les termes manquants ${\displaystyle 2^{-59}+2^{-60}}$, perdus en raison de l'arrondi lors du calcul des valeurs élevées au carré intermédiaires.

Lors du calcul de la fonction arc sinus complexe, on peut être tenté d'utiliser directement la formule logarithmique :$${\displaystyle \arcsin(z)=\mathrm {i} \log \left({\sqrt {1-z^{2}}}-\mathrm {i} z\right).}$$Cependant, supposons ${\displaystyle z=\mathrm {i} y}$ pour ${\displaystyle y\ll 0}$. Alors ${\displaystyle {\sqrt {1-z^{2}}}\approx -y}$ et ${\displaystyle \mathrm {i} z=-y}$ ; on note la différence entre ces deux valeurs ${\displaystyle \varepsilon }$ — qui est donc une très petite différence, presque nulle. Si ${\displaystyle {\sqrt {1-z^{2}}}}$ est évalué en arithmétique à virgule flottante donnant$${\displaystyle \operatorname {fl} \left({\sqrt {\operatorname {fl} (1-\operatorname {fl} (z^{2}))}}\right)={\sqrt {1-z^{2}}}(1+\delta )}$$avec une erreur quelconque ${\displaystyle \delta \neq 0}$, où ${\displaystyle \operatorname {fl} (\cdots )}$ désigne un arrondi à virgule flottante, puis avec le calcul de la différence$${\displaystyle {\sqrt {1-z^{2}}}(1+\delta )-\mathrm {i} z}$$de deux nombres proches, tous deux très proches de ${\displaystyle -y}$, peut amplifier l'erreur ${\displaystyle \delta }$ en une entrée par un facteur de ${\displaystyle 1/\varepsilon }$ — un facteur très important parce que ${\displaystyle \varepsilon }$ était presque nul. Par exemple, si ${\displaystyle z=-1234567\mathrm {i} }$, la valeur exacte de ${\displaystyle \arcsin(z)}$ est d'environ ${\displaystyle -14.71937803983977\mathrm {i} }$, mais l'utilisation de la formule logarithmique naïve dans l'arithmétique binary64 IEEE 754 peut donner ${\displaystyle -14.719{\underline {644263563968}}\mathrm {i} }$, avec seulement cinq chiffres sur seize corrects et le reste (souligné) tous incorrects.

Dans le cas où ${\displaystyle z=\mathrm {i} y}$ pour ${\displaystyle y<0}$, en utilisant l'identité ${\displaystyle \arcsin(z)=-\arcsin(-z)}$ évite l'annulation parce que ${\textstyle {\sqrt {1-(-z)^{2}}}={\sqrt {1-z^{2}}}\approx -y}$ mais ${\displaystyle \mathrm {i} (-z)=-\mathrm {i} z=y}$, donc la soustraction est effectivement une addition avec le même signe qui ne s'annule pas.

Les constantes numériques dans les logiciels sont souvent écrites en décimal, comme dans le fragment C double x = 1.000000000000001; pour déclarer et initialiser une variable binaire64 IEEE 754 nommée x. Cependant, ${\displaystyle 1.000000000000001}$ n'est pas un nombre binaire64 à virgule flottante ; le plus proche, auquel x sera initialisé dans ce fragment, est ${\displaystyle 1.0000000000000011102230246251565404236316680908203125=1+5\cdot 2^{-52}}$. Bien que la conversion de base de la virgule flottante décimale à la virgule flottante binaire n'entraîne qu'une petite erreur relative, une annulation catastrophique peut l'amplifier en une erreur beaucoup plus importante :

double x = 1.000000000000001; // arrondi à 1 + 5*2^{-52}
double y = 1.000000000000002; // arrondi à  1 + 9*2^{-52}
double z = y - x;       // la difference vaut exactement 4*2^{-52}

La différence ${\displaystyle 1.000000000000002-1.000000000000001}$ est ${\displaystyle 0.000000000000001=1.0\times 10^{-15}}$. Les erreurs relatives de x de ${\displaystyle 1.000000000000001}$ et de y de ${\displaystyle 1.000000000000002}$ sont tous les deux ci-dessous ${\displaystyle 10^{-15}=0.0000000000001\%}$, et la soustraction à virgule flottante y - x est calculée exactement par le lemme de Sterbenz.

Mais même si les entrées sont de bonnes approximations, et même si la soustraction est calculée exactement, la différence des approximations ${\displaystyle {\tilde {y}}-{\tilde {x}}=(1+9\cdot 2^{-52})-(1+5\cdot 2^{-52})=4\cdot 2^{-52}\approx 8.88\times 10^{-16}}$ a une erreur relative de plus de ${\displaystyle 11\%}$ de la différence ${\displaystyle 1.0\times 10^{-15}}$ des valeurs originales écrites en décimal : une annulation catastrophique a amplifié une petite erreur dans la conversion de base en une grande erreur dans la sortie.

L'annulation est parfois utile et souhaitable dans les algorithmes numériques. Par exemple, les algorithmes 2Sum et Fast2Sum s'appuient tous deux sur une telle annulation après une erreur d'arrondi afin de calculer exactement quelle était l'erreur dans une opération d'addition à virgule flottante en tant que nombre à virgule flottante lui-même.

La fonction ${\displaystyle \log(1+x)}$, si elle est évaluée naïvement pour des valeurs ${\displaystyle 0<x\lll 1}$, perdra la plupart des chiffres de ${\displaystyle x}$ en arrondi ${\displaystyle \operatorname {fl} (1+x)}$. Cependant, la fonction ${\displaystyle \log(1+x)}$ elle-même est bien conditionné aux entrées proches de ${\displaystyle 0}$. La réécrire comme$${\displaystyle \log(1+x)=x{\frac {\log(1+x)}{(1+x)-1}}}$$exploite l'annulation dans ${\displaystyle {\hat {x}}:=\operatorname {fl} (1+x)-1}$ pour éviter l'erreur de ${\displaystyle \log(1+x)}$ évalué directement^[2]. Cela fonctionne car l'annulation au numérateur ${\displaystyle \log(\operatorname {fl} (1+x))={\hat {x}}+O({\hat {x}}^{2})}$ et l'annulation au dénominateur ${\displaystyle {\hat {x}}=\operatorname {fl} (1+x)-1}$ se contrecarrer; la fonction ${\displaystyle \mu (\xi )=\log(1+\xi )/\xi }$ est suffisamment bien conditionnée près de zéro pour que ${\displaystyle \mu ({\hat {x}})}$ donne une bonne approximation de ${\displaystyle \mu (x)}$, Et ainsi ${\displaystyle x\cdot \mu ({\hat {x}})}$ donne une bonne approximation de ${\displaystyle x\cdot \mu (x)=\log(1+x)}$.

• (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Catastrophic cancellation » (voir la liste des auteurs).

• Portail de l'analyse