2진수 실수 체계에 대한 궁금증..
float a = 0.54
float b = 0.55
float c = 0.56
printf("%.1f\n", a); -1
printf("%.1f\n", b); -2
printf("%.1f\n", c); -3
1결과 : 0.5
2결과 : 0.5
3결과 : 0.6
여기서 소수 첫째자리까지 출력하였을때
2의결과는 0.5가 나오고(두번째 자리 숫자가 5인데 불구하고)
3의결과는 0.6이 나옵니다.
그것에 대한 대답을 다른분이 해주셨는데.
저장된 2진수 관점으로 생각해야 한다고 하셨죠
즉
0.55 = 0.1000110...(2진수) = 0.5487...(10진수)
0.56 = 0.1000111...(2진수) = 0.558...(10진수)
이기 때문에
0.55는 소수 두번째자리 반올림하여 0.5가 되고
0.56은 소수 두번째자리 반올림하여 0.6이 된다고 이해를 했습니다.
하지만 여기서 궁금한게 생깁니다.
double Rounding( double x, int digit )
{
return ( floor( (x) * pow( float(10), digit ) + 0.5f) / pow( float(10), digit ) );
}
라는 대표적인 소수점 반올림하여 출력하는 함수를 이용하여
Rounding(0.55, 1) -a
Rounding(0.56, 1) -b
값을 출력하면
a는 0.6
b도 0.6
이 나옵니다.
a가 실제 저장된 값은 0.5487.... 인데
이 값을 Rounding함수에 대입하여 계산해보면 0.5가 나와야 합니다.
하지만 결과는 마치 0.55를 가지고 Rounding함수를 사용한 결과가 나옵니다.
즉.
"%.1f" 를 사용하여 출력할때는 0.55값을 0.5로 출력하면서
Rounding 함수를 사용하여 출력하면 왜 0.6이 나오는 걸까요?
질문이 너무 난잡해서 의도가 전해질까 염려되네요..
기본적인 문제는 0.55가 이진수로는 무한 소수이기
기본적인 문제는 0.55가 이진수로는 무한 소수이기 때문에 정확한 변환이 안되다는 것이지만, 다시 10진수로 바꾸어 출력될 때는 정확하게 출력되는게 정상입니다. 0.55가 실제 이진수로는 0.549999... 에 해당하지만 last bit 반올림에 의해 0.55로 출력됩니다.
cout.precision(1);
cout << 0.55 << endl; //0.6
cout << 0.5499999 << endl; // 0.5
말씀하신 문제는 printf 사용의 문제로 보입니다.
http://stackoverflow.com/questions/2872543/printf-vs-cout-in-c
Rounding 함수는 double 형을 사용하는데,
Rounding 함수는 double 형을 사용하는데, 출력은 float 형으로 하네요.
double 형과 float 형의 소수점 끝나는 위치가 달라서 그렇게 된것으로 보입니다.
float 형의 0.55는 0.100011001100110011001100 이고,
double 형의 0.55는 0.10001100110011001100110011001100110011001100110011001 인 것으로 보입니다.
컴파일러마다 동작이 약간 다른 것 같습니다.
VS 2015
float v = 0.55f;
printf("%.1f 0x%08x", v, (int&)v);
결과: 0.6 0x3f0cccccd
값(2): 0.100011001100110011001101
값(10): 0.550000011920929
로 되어있습니다.
gcc-4.3.2와 gcc-4.8.1도 0.6이 나옵니다.
댓글 달기