고정 소수점과 부동 소수점의 오차 알아보기
2022. 12. 21. 22:05
카테고리 없음
float, double, BigDecimal 정수 값의 크기와 범위 1비트당 정수는 0과 1로 2개를 표현할 수 있고, 4개이면 2^4로 16개이고, 8비트이면 1바이트로 2^8으로 256개이다. 그래서 실제로 8비트는 0 ~ 255의 숫자를 표현할 수 있다. 그렇다면, 음수를 표현하기 위해서는 아래 그림과 같이 가장 앞의 1비트는 부호 비트로 사용하고 나머지 7개 비트만 사용하게 된다. 결국 -2^7 ~ 2^7 - 1의 정수까지 표현이 가능하게 된다. 2^7은 128이므로 음수 128개 양수 128개를 표현할 수 있는 것이다. 즉 -128 ~ 127까지 표현이 가능하게 되는 것이고, 음수가 128이고 양수가 127인 이유는 간단하게 보면, 음수까지 -2^7 + 1로 시작하여 -127 ~ 0까지하면 양..