Серый форум — VBS: Непонятный подсчёт

Re: VBS: Непонятный подсчёт

null@example.com (dsb) — Sat, 18 Feb 2012 13:54:24 +0000

pad0nak пишет:

возвращает 8,29000000000001E-02, а не 0.0829, чё за глюк?

Это не глюк, а научный формат отображения вещественных чисел. "E-02" означает, что 8.29 надо разделить (поэтому минус) на 10 в квадрате (2). Этот формат очень полезен для научных расчётов, когда вы работаете со слишком малыми или слишком большими числами.

Re: VBS: Непонятный подсчёт

null@example.com (pad0nak) — Mon, 13 Feb 2012 16:41:27 +0000

Xameleon пишет:

MsgBox CSng(0.8515 - 0.7686)
MsgBox Round(0.8515 - 0.7686,4)
Как вариант. На сколько я понимаю, дело просто в точности отображении значения.

То, что надо! Спасибо! +100 очков

Re: VBS: Непонятный подсчёт

null@example.com (Xameleon) — Mon, 13 Feb 2012 16:34:15 +0000

MsgBox CSng(0.8515 - 0.7686)

MsgBox Round(0.8515 - 0.7686,4)

Как вариант. На сколько я понимаю, дело просто в точности отображении значения.

VBS: Непонятный подсчёт

null@example.com (pad0nak) — Mon, 13 Feb 2012 16:28:07 +0000

Уважаемые господа кодеры, прошу помочь в одном не лёгком деле...
Почему-то когда выполняю:

MsgBox(0.8515-0.7686)

возвращает 8,29000000000001E-02, а не 0.0829, чё за глюк?
замутил скрипт следующего содержания:

Randomize
chislo1 = "0,"&Int(Rnd * 10000)
Randomize
chislo2 = "0,"&Int(Rnd * 10000)
MsgBox(chislo1&"-"&chislo2&"="&chislo1-chislo2)

Обычно считает нормально, но попадаются и вышеизложенные казусы
перерыл весь интернет, пробовал разные типы переменных, вопрос остается открытым...