현재 위치

홈 ›› Forums ›› 공부 ›› 프로그래밍 QnA

컴퓨터의 소수 계산 질문있습니다.

nicemuy의 이미지
글쓴이: nicemuy / 작성시간: 금, 2012/10/12 - 3:11오전

먼저 제가 고민하게된 소스 부터 보여드리겠습니다.

아마 c언어를 처음 배우거나할때 참 유명한 소스로 알고있습니다. 0.1을 100번 더하는 소스인데요, 저는 여기에 0.1*100을 한것을 따로 추가했습니다.

궁금한게 지금 저 소스의 출력값이 10.000002와 10.000000으로 나오는데, 어째서 0.1을 100번 더한것과 0.1에 100을 곱한 값의 정밀도가 다른건지 알고싶습니다.

0.1*100도 10.000002가 나와야할것 같은데 의외로 정확하게 나와서 당황했습니다. 어떻게 이렇게 되는지 알려주세요!

File attachments: 
첨부파일 크기
Image icon source.png146.17 KB
Forums: 
프로그래밍 QnA
ifree의 이미지

글쓴이: ifree / 작성시간: 금, 2012/10/12 - 9:04오전

십진수 0.1이 이진수로는 0.000110011...... 인 무한소수인데 CPU의 FPU가 이중 64개의 유효숫자만 잘라서 계산하기 때문에 끝자리 부분에서 계산의 차이가 생기죠.
0.25로 같은 계산을 하면 정확한결과가 나올겁니다.
저것 뿐만 아니고 같은 계산을 곱하기와 나누기의 순서를 바꾸어도 결과가 달라질 수 있습니다.

nicemuy의 이미지

글쓴이: nicemuy / 작성시간: 금, 2012/10/12 - 12:36오후

0.1이 2진수로 무한소수이고 이것이 단정도나 배정도에서 짤려 저장이되기에 정확하지 않음은 저도 알고있습니다.
제가 궁금한건 0.1이 100번더해서 10.000002가 되는건 알겠지만 100을 곱해서 10.000000 이 왜 나오는지를 알고싶습니다
말씀하셨듯이 0.1은 무한소수로 나오니 100번 더하나 100을 곱하나 정확히 10이 나오진 않더래도 둘의 값은 동일해야하는것 아닌가요??

DarkSide의 이미지

글쓴이: DarkSide / 작성시간: 금, 2012/10/12 - 12:57오후

컴퓨터의 곱셈이 덧셈의 반복과는 다를 수 있죠.
덧셈의 경우는 마지막 유효숫자가 누진되어 계속 더해지지만, 곱셈은 유효숫자끼리 곱해서 자리수만 맞추기 때문에 끝자리가 잘려 나갑니다.
이산수학을 공부해 보세요.

nicemuy의 이미지

글쓴이: nicemuy / 작성시간: 금, 2012/10/12 - 5:37오후

알것 같으면서도 잘 모르겠네요ㅠㅠ 회로측면에서는 곱셈기가 단순히 full adder로 연결되어있어서 유효숫자의 반복덧셈이나 곱셈이나 마찬가지일줄 알았는데 그게 아닌가보군요... 아무튼 답변 감사합니다.

bluekyu의 이미지

글쓴이: bluekyu / 작성시간: 금, 2012/10/12 - 7:55오후

아래 글을 보시면 DarkSide 님께서 언급하신 내용이 있습니다.

http://en.wikipedia.org/wiki/Floating_point#Multiplication_and_division

/*** Signature ******************
* blog: http://blog.bluekyu.me/ *
********************************/

nicemuy의 이미지

글쓴이: nicemuy / 작성시간: 월, 2012/10/15 - 1:06오전

보고나니 이해가 되었네요...! 감사합니다

ifree의 이미지

글쓴이: ifree / 작성시간: 금, 2012/10/12 - 1:28오후

덧셈을 반복하는 과정에서 유효숫자의 제한으로 인한 잘림, 올림이 계속 반복되죠.
예를들어, 10진수의 휴효숫자 4자리 시스템에서 1001을 반복해 더한다면 10번 더하면 10010 이 되는데 그 다음부터는 1001 이 아닌 1000 이 더해지게 됩니다.

nicemuy의 이미지

글쓴이: nicemuy / 작성시간: 금, 2012/10/12 - 5:40오후

그럼 덧셈으로 인한 유효자리 숫자 제한때문에 덧셈을 할때마다 잘려 올라가고, 곱셈은 한번의 연산으로 해결되서 차이가 나는건가요??
곱셈기 회로때문에 계속 곱셈기도 덧셈기로 이루어져있어서 곱셈도 역시 덧셈의 연산으로 이루어지는게 아닌가해서 헷갈리네요ㅠㅠ 답변 감사합니다!

댓글 달기

텍스트 포맷에 대한 자세한 정보

Filtered HTML

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.

BBCode

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param>
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.

Textile

  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • You can use Textile markup to format text.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>

Markdown

  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • Quick Tips:
    • Two or more spaces at a line's end = Line break
    • Double returns = Paragraph
    • *Single asterisks* or _single underscores_ = Emphasis
    • **Double** or __double__ = Strong
    • This is [a link](http://the.link.example.com "The optional title text")
    For complete details on the Markdown syntax, see the Markdown documentation and Markdown Extra documentation for tables, footnotes, and more.
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>

Plain text

  • HTML 태그를 사용할 수 없습니다.
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
  • 줄과 단락은 자동으로 분리됩니다.
댓글 첨부 파일
이 댓글에 이미지나 파일을 업로드 합니다.
파일 크기는 8 MB보다 작아야 합니다.
허용할 파일 형식: txt pdf doc xls gif jpg jpeg mp3 png rar zip.
CAPTCHA
이것은 자동으로 스팸을 올리는 것을 막기 위해서 제공됩니다.