Но в зависимости от целого должно быть как то известно какова возможная точность дроби
Не совсем понял, но скорее всего нет:
MsgBox, % FloatHexConverter(123.456) . "`n" . FloatHexConverter(123.456001)
FloatHexConverter(source) {
if source is Float
isSourceFloat := true
DllCall( "RtlMoveMemory", isSourceFloat ? "UIntP" : "FloatP", result
, isSourceFloat ? "FloatP" : "UIntP", source
, Ptr, 4 )
Return isSourceFloat ? Format("0x{:X}", result) : result
}Можно, конечно, добавить параметр, определяющий до какого знака округлять, но имхо это будет не очень красиво, т. к. в случае конвертации float в hex он будет лишним.
примере уже не то число, вместо .456000 выходит .456001
Это нормально, действия с float-числами всегда осуществляются с определённой погрешностью, это нужно учитывать.
]]>
Hex := FloatHexConverter(99999.99) ; max 2
MsgBox, % FloatHexConverter(Hex, 6)
Hex := FloatHexConverter(9999.999) ; max 3
MsgBox, % FloatHexConverter(Hex, 6)
Hex := FloatHexConverter(999.9999) ; max 4
MsgBox, % FloatHexConverter(Hex, 6)
FloatHexConverter(source, Round = 0) {
if source is Float
isSourceFloat := true
DllCall( "RtlMoveMemory", isSourceFloat ? "UIntP" : "FloatP", result
, isSourceFloat ? "FloatP" : "UIntP", source
, Ptr, 4 )
Return isSourceFloat ? Format("0x{:X}", result) : result ; Round(result, Round)
}
Return isSourceFloat ? Format("0x{:X}", result) : Round(result, 3)MsgBox, % FloatHexConverter(123.456)
MsgBox, % FloatHexConverter(0x42F6E979)
FloatHexConverter(source) {
if source is Float
isSourceFloat := true
DllCall( "RtlMoveMemory", isSourceFloat ? "UIntP" : "FloatP", result
, isSourceFloat ? "FloatP" : "UIntP", source
, Ptr, 4 )
Return isSourceFloat ? Format("0x{:X}", result) : result
}
MsgBox, % HexToFloat(0x42F6E979)
HexToFloat(x) {
DllCall("RtlMoveMemory", "FloatP", f, "UIntP", x, "Uint", 4)
Return f
}
MsgBox, % FloatToHex(123.456)
FloatToHex(value)
{
Return Format( "0x{:X}", DllCall("MulDiv", Float, value, Int, 1, Int, 1, UInt) )
}HexToFloat(value)
{
Return, (1 - 2 * (value >> 31)) * (2 ** ((value >> 23 & 255) - 150)) * (0x800000 | value & 0x7FFFFF)
}
FloatToHex(value)
{
format := A_FormatInteger
SetFormat, Integer, H
result := DllCall("MulDiv", Float, value, Int, 1, Int, 1, UInt)
SetFormat, Integer, %format%
Return, result
}Raven, будет возможность, напиши HEX данные для заранее известного real числа, а лучше для двух разных чисел.
Это не вы разве писали? Я вам показал, как вы можете сами получить эти данные.
]]>Из f31ce7d не получится
(цифры от балды, только суть)