fixed point 연산 오버플러우 방지 문의

grumbler의 이미지

고정 소스점 라이브러리를 이용해서 부동 소수점 연산을 교체 하고 있습니다.
이미 부동 소수점에서 어느 정도 안정화 되어 있는 상태에서 고정 소수점을 변경을 하려니
여간 노가다가 아니군요.

노가다는 그렇다 하더라도
Float2Fxd(x) (fixed)(((x)*65536.0f)+0.5))
Mul(A, B) ((fixed)(((int64)(A) * (B)) >> 16))
Div(A, B) ((fixed)(((int64)(A) << 16) / (B)))
위와 같은 16.16 32비트 고정 소스점 연산을 하는 경우에 있어서
곱셈을 하는 경우에 32비트 * 32비트 하게 되면 64비트 결과 값이 나와서 오버프러우가 발생을 하게되어
계산상에 무지막지한 오차가 발생을 합니다.

그렇다고 64bit연산을 하게 되면, 너무 낭비인거 같고 어떻게 하면 좋을지 모르겠습니다.
오버플러우를 방지하는 방법을 없을까요?

댓글 달기

Filtered HTML

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
댓글 첨부 파일
이 댓글에 이미지나 파일을 업로드 합니다.
파일 크기는 8 MB보다 작아야 합니다.
허용할 파일 형식: txt pdf doc xls gif jpg jpeg mp3 png rar zip.
CAPTCHA
이것은 자동으로 스팸을 올리는 것을 막기 위해서 제공됩니다.