BIT

SystemSoftware - float #2

Float 자료형에 대해서 2 소수점을 가지는 자료형은 rounding 에 민감하다! 마지막 숫자가 5인 경우 반올림 이후의 숫자에 따라서 결정된다 위 Binary들은 모두 소수 3번째 자리에서 반올림을 하려고 준비중이다 1번은 소수 3번째 자리가 0이므로 내림이 적용된다. 2번은 소수 3번째 자리가 1이고 4번째 자리도 1이므로(절반보다 크다!) 올림이 적용된다. 3번은 소수 3번째 자리가 1이고 올림을 할 경우 소수 2번째 자리가 0이되어 짝수가 되므로 올림이 적용된다. 4번은 소수 3번째 자리가 1이고 올림을 할 경우 소수 2번째 자리가 1이 되어 홀수가 되므로 내림이 적용된다. Practice Value Binary Fraction Exponent 128 10000000 1.0000000 7 15..

SystemSoftware - float #1

Float 자료형에 대해서 1 ex ) $$ 0.111111111..._2 = 1.0 $$ float 자료형은 sign bit를 나타내는 S exponential을 나타내는 exp fractional value를 나타내는 frac 부분으로 나눌 수 있다 Normalized value exp != 0 || exp != 11111111...1 E = exp - bias $$Bias = 2^ k / 2 -1$$ M 은 소수점 아래 부분에 그대로 들어가게 된다. float F = 15213.0 을 예시로 알아보자 15213 = 11101101101101 = 1.1101101101101 * 2^13 M = 1101101101101 frac = 11011011011010000000000 E = 13 Bias = 1..