Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

calculation bug #3820

Closed
vicuna opened this issue Oct 24, 2005 · 1 comment
Closed

calculation bug #3820

vicuna opened this issue Oct 24, 2005 · 1 comment
Labels
bug

Comments

@vicuna
Copy link

vicuna commented Oct 24, 2005

Original bug ID: 3820
Reporter: administrator
Status: closed
Resolution: not a bug
Priority: normal
Severity: minor
Category: ~DO NOT USE (was: OCaml general)

Bug description

Bonjour, je m'appelle Mikaël MAYER, je viens juste de sortir de la MP* info de strasbourg et j'ai trouvé un bug:
tapez dans la fenêtre CAML "0.58*.100.-.58.;;" le résultat ne sera pas 0
Donc si je prends la partie entière de 0.58*.100., il me mettra 57, ce qui est très embêtant.
J'ai résolu le problème en programmant une fonction d'arrondi

MAis voici les informations de mon ordinateur portable (ça peut-être à cause de lui)
Intel(R) Pentium(R) 4 CPU 3.20GHZ (2 CPU)
Acer Aspire 1660
Je fonctionnne sous XP, et j'ai DirectX 9.0c (4.09.0000.0904)

Voilà, je me suis bien amusé avec Caml et bonne journée!
Mikaël

<STYLE></STYLE>
  Bonjour, je m'appelle Mikaël MAYER, je viens juste de sortir de la MP* info de strasbourg et j'ai trouvé un bug:
tapez dans la fenêtre CAML "0.58*.100.-.58.;;" le résultat ne sera pas 0
Donc si je prends la partie entière de 0.58*.100., il me mettra 57, ce qui est très embêtant.
J'ai résolu le problème en programmant une fonction d'arrondi
 
MAis voici les informations de mon ordinateur portable (ça peut-être à cause de lui)
Intel(R) Pentium(R) 4 CPU 3.20GHZ (2 CPU)
Acer Aspire 1660
Je fonctionnne sous XP, et j'ai DirectX 9.0c (4.09.0000.0904)
 
Voilà, je me suis bien amusé avec Caml et bonne journée!
Mikaël
@vicuna
Copy link
Author

vicuna commented Oct 24, 2005

Comment author: administrator

Bonjour, je m'appelle Mika=EBl MAYER, je viens juste de sortir de la =
MP* info de strasbourg et j'ai trouv=E9 un bug:
tapez dans la fen=EAtre CAML "0.58*.100.-.58.;;" le r=E9sultat ne sera =
pas 0

Ce n'est pas un bug. Bienvenu dans le monde merveilleux de
l'arithmétique en virgule flottante, où presque tous les résultats
sont approchés.

Si vous voulez en savoir plus, je vous recommande la lecture du livre
de J-M Muller, "Arithmétique des ordinateurs", Masson, 1989,
ou (dispo sur le Web mais en anglais) l'article de D Goldberg,
"What Every Computer Scientist Should Know About Floating Point Arithmetic".

  • Xavier Leroy

@vicuna vicuna closed this as completed Oct 24, 2005
@vicuna vicuna mentioned this issue Mar 14, 2019
Closed
@vicuna vicuna added the bug label Mar 19, 2019
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Assignees
No one assigned
Labels
bug
Projects
None yet
Milestone
No milestone
Development

No branches or pull requests
1 participant
@vicuna