Серьёзный глюк в калькуляторе SE
Heдавно, пользуясь встроенным приложением "Калькулятор" на СЕ, обнаружил, что с точки зрения телефона 10000000.9999 + 0.00005 = 10000000.1 :) Далее: 9999999 + 0.999995 = 1.0Е7 (результат правильный, но интересно то, что экспоненциальная запись больше нигде в нём не встречается, а числа от 1Е12 его переполняют). А самый удивительный результат вы можете получить сами, посчитав 9999999 + 0.999996 :)
При аналогичных расчётах, выполняемых мидлетом (fixed point и floating point), результаты верные. Тем не менее, просьба всем программерам иметь это в виду и проверять расчёты своих приложений. Всё-таки по-прежнему самый надёжный компьютер - это счёты. |
Ответ: Серьёзный глюк в калькуляторе SE
Советую students calculator - интерфейс удобный, точность высокая, функций много.
|
Ответ: Серьёзный глюк в калькуляторе SE
Спасибо, [S]поржал[/S] пользуюсь BigCalc by тов. Aren Isoyan на основе своего собственного графопостроителя.
|
Часовой пояс GMT +4, время: 16:52. |
vBulletin® Version 3.6.5.
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Перевод: zCarot