fixed point 연산 오버플러우 방지 문의
글쓴이: grumbler / 작성시간: 금, 2007/08/17 - 3:32오후
고정 소스점 라이브러리를 이용해서 부동 소수점 연산을 교체 하고 있습니다.
이미 부동 소수점에서 어느 정도 안정화 되어 있는 상태에서 고정 소수점을 변경을 하려니
여간 노가다가 아니군요.
노가다는 그렇다 하더라도
Float2Fxd(x) (fixed)(((x)*65536.0f)+0.5))
Mul(A, B) ((fixed)(((int64)(A) * (B)) >> 16))
Div(A, B) ((fixed)(((int64)(A) << 16) / (B)))
위와 같은 16.16 32비트 고정 소스점 연산을 하는 경우에 있어서
곱셈을 하는 경우에 32비트 * 32비트 하게 되면 64비트 결과 값이 나와서 오버프러우가 발생을 하게되어
계산상에 무지막지한 오차가 발생을 합니다.
그렇다고 64bit연산을 하게 되면, 너무 낭비인거 같고 어떻게 하면 좋을지 모르겠습니다.
오버플러우를 방지하는 방법을 없을까요?
Forums:
댓글 달기