SystemSoftware - float #2

Float 자료형에 대해서 2

 

소수점을 가지는 자료형은 rounding 에 민감하다!

마지막 숫자가 5인 경우 반올림 이후의 숫자에 따라서 결정된다

 

위 Binary들은 모두 소수 3번째 자리에서 반올림을 하려고 준비중이다

1번은 소수 3번째 자리가 0이므로 내림이 적용된다.

2번은 소수 3번째 자리가 1이고 4번째 자리도 1이므로(절반보다 크다!) 올림이 적용된다.

3번은 소수 3번째 자리가 1이고 올림을 할 경우 소수 2번째 자리가 0이되어 짝수가 되므로 올림이 적용된다.

4번은 소수 3번째 자리가 1이고 올림을 할 경우 소수 2번째 자리가 1이 되어 홀수가 되므로 내림이 적용된다.

---

Practice

Value	Binary	Fraction	Exponent
128	10000000	1.0000000	7
15	00001101	1.10100000	3
17	00010001	1.0001000	4
19	00010011	1.0011000	4
138	10001010	1.0001010	7
63	00111111	1.1111100	5

GRS 정리

Value	Fraction	GRS	Incr?	Rounded
128	1.0000000	000	N	1.000
15	1.1010000	100	N	1.101
17	1.0001000	010	N	1.000
19	1.0011000	110	Y	1.010
138	1.0001010	011	Y	1.001
63	1.1111100	111	Y	10.000