Google no sabe restar

14/12/2005 por ggarfield, 4

¿ Sabías que…

resta.png

Aquí tenéis la prueba ;)

(vía elProdigo)

¿Te ha gustado lo que has visto? ¡Compártelo, menéalo o vótalo! ¡Gracias!
Guardado en:  Google/Gmail
4 comentarios

  1. Pero que tramposo… seguro que sabes perfectamente que 0.1 y 0.9 son números que no tienen representación binaria finita.
    Me parecen pocos dígitos de precisión decimal, pero son los que se obtienen con el formato IEEE 754 de doble precisión (64 bits). Lo curioso es que si utilizamos simple precisión (32 bits) obtenemos un resultado casualmente más exacto:

    Float: -0.000000
    Double: -2.77556e-17

    miguev dice...
    14/12/2005 a las 9:31 am

  2. No lo sabía pero lo supuse. No pensaba que habría tanto error en una resta tan “fácil”

    GgarfielD dice...
    14/12/2005 a las 11:19 am

  3. Google no sabe restar

    aquí tienes la prueba… 1-0,9 = -2,77*10^-17

    meneame.net dice...
    30/12/2005 a las 4:06 pm

  4. que sepas que ya lo han corregido

    culoman dice...
    25/5/2006 a las 10:19 am
¡Comenta!

Envía un Trackback | Suscríbete a este post por RSS