Le wiki de WIMS EDU

L'association WIMS EDU a ouvert ce wiki afin de favoriser les collaborations entre utilisateurs de WIMS.

Outils pour utilisateurs

Outils du site


bugs:sigunits-bug

Différences

Ci-dessous, les différences entre deux révisions de la page.

Lien vers cette vue comparative

bugs:sigunits-bug [22/11/2011 22:07] (Version actuelle)
Ligne 1: Ligne 1:
 +Je soumets à votre sagacité un problème récurrent accompagnant sigunits dès
 +qu'un arrondi est à faire :
 +
 +<code shell>
 +----------------8<​--------------------------------
 +gk:~$ echo 2.45#2 | units-filter -o
 +2.5
 +gk:~$ echo 1.45#2 | units-filter -o
 +1.4
 +----------------8<​---------------------------------
 +</​code>​
 +bien sûr, nos élèves ont appris que 1.45 s'​arrondit à 1.5 quand on garde
 +deux chiffres significatifs. L'​origine du problème est que le calcul ​
 +réalisé par units-filter (le moteur de sigunits) se fait sur des 
 +flottants en base deux, ce qui ne correspond pas bien aux décimaux en 
 +base dix.
 +
 +Quelle serait votre suggestion pour que le calcul soit fait de façon ​
 +correcte sans erreur dans le système décimal ? Est-ce que des 
 +bibliothèques de calcul en multiprécision permettraient de s'​affranchir à coup
 +sûr de ce genre de problème ?
 +
  
bugs/sigunits-bug.txt · Dernière modification: 22/11/2011 22:07 (modification externe)