Le wiki de WIMS EDU

L'association WIMS EDU a ouvert ce wiki afin de favoriser les collaborations entre utilisateurs de WIMS.

Outils pour utilisateurs

Outils du site


bugs:sigunits-bug

Je soumets à votre sagacité un problème récurrent accompagnant sigunits dès qu'un arrondi est à faire :

----------------8<--------------------------------
gk:~$ echo 2.45#2 | units-filter -o
2.5
gk:~$ echo 1.45#2 | units-filter -o
1.4
----------------8<---------------------------------

bien sûr, nos élèves ont appris que 1.45 s'arrondit à 1.5 quand on garde deux chiffres significatifs. L'origine du problème est que le calcul réalisé par units-filter (le moteur de sigunits) se fait sur des flottants en base deux, ce qui ne correspond pas bien aux décimaux en base dix.

Quelle serait votre suggestion pour que le calcul soit fait de façon correcte sans erreur dans le système décimal ? Est-ce que des bibliothèques de calcul en multiprécision permettraient de s'affranchir à coup sûr de ce genre de problème ?

Vous pourriez laisser un commentaire si vous étiez connecté.
bugs/sigunits-bug.txt · Dernière modification: 22/11/2011 22:07 (modification externe)