현재 위치

홈 ›› Forums ›› 공부 ›› 프로그래밍 QnA

고정 소수점 연산 질문입니다.

punxism의 이미지
글쓴이: punxism / 작성시간: 월, 2005/09/12 - 4:09오후

Float2Fxd(x) (fixed)(((x)*65536.0f)+0.5))

부동 소수점은 포멧이 지수 가수 이렇게 들어가는데
어떻게 << 16과 같은 뜻의 65536이 곱해지면 고정 소수점으로 변환 되는 지 이해가 안됩니다.

그리고
Mul(A, B) ((fixed)(((int64)(A) * (B)) >> 16))
고정 소수점 곱하기인데 그냥 비트 끼리 곱하는건 알겠는데
왜 다시 >> 16을 해줘야 하는지 잘 모르겠습니다.

Div(A, B) ((fixed)(((int64)(A) << 16) / (B)))
이것 역시 이해가 안되는군요.

여러 글을 읽었는데 이해가 잘 안됩니다.

Forums: 
프로그래밍 QnA
lifthrasiir의 이미지

글쓴이: lifthrasiir / 작성시간: 월, 2005/09/12 - 5:01오후

punxism wrote:
Float2Fxd(x) (fixed)(((x)*65536.0f)+0.5))

부동 소수점은 포멧이 지수 가수 이렇게 들어가는데
어떻게 << 16과 같은 뜻의 65536이 곱해지면 고정 소수점으로 변환 되는 지 이해가 안됩니다.

그리고
Mul(A, B) ((fixed)(((int64)(A) * (B)) >> 16))
고정 소수점 곱하기인데 그냥 비트 끼리 곱하는건 알겠는데
왜 다시 >> 16을 해줘야 하는지 잘 모르겠습니다.

Div(A, B) ((fixed)(((int64)(A) << 16) / (B)))
이것 역시 이해가 안되는군요.

여러 글을 읽었는데 이해가 잘 안됩니다.

고정 소숫점과 부동 소숫점은 완전히 다른 형태로 동작합니다. 위에서 예시를 들으신 경우에는 모든 실수에 65536을 곱해서 저장하네요. 예를 들어서 원주율 3.141592...를 이런 방식으로 저장하면 205887, 즉 205887/65536 = 3.14158630...의 형태로 저장됩니다.

일단 이런 정의만 알아 두시면 Mul과 Div가 어떻게 동작하는 지는 다음의 식으로 충분할 것입니다. A와 B는 실제로 Fixed 형으로 저장되는 숫자입니다.

(A / 2^16) * (B / 2^16) = (A * B) / 2^32 = (A * B / 2^16) / 2^16
(A / 2^16) / (B / 2^16) = A / B = (A * 2^16 / B) / 2^16

(두번째 식에서 2^16은 A에 먼저 곱해져야 합니다)

- 토끼군

둘러보기