현재 위치

홈 ›› Forums ›› 공부 ›› 프로그래밍 QnA

[완료] Ruby에서 강제로 32비트 실수형 쓰게 할 수 있나요?

isty2e의 이미지
글쓴이: isty2e / 작성시간: 월, 2011/03/14 - 11:58오전

이런 일이 일어날 줄은 몰랐는데 -_-; 어쩌다 보니 반드시 single precision으로 처리해야 하는 일이 생겼습니다.

그런데 documentation을 뒤져 보니까 precision을 떨어뜨릴 방법이 안 보이더군요. 구글링해도 마찬가지구요.

뭔가 round 비슷한 걸 써서 떨어뜨리면 해결이 되려나요?

Forums: 
프로그래밍 QnA
winner의 이미지

글쓴이: winner / 작성시간: 월, 2011/03/14 - 12:57오후

일반적으로 안 쓰이는 것이니까요.

isty2e의 이미지

글쓴이: isty2e / 작성시간: 월, 2011/03/14 - 3:19오후

숙제를 해야 하는데, 그 숙제가 뭔고 하니 수치해석에서 지나치게 mesh를 조밀하게 잡으면 roundoff error 때문에 오히려 결과가 부정확해진다는 걸 보이는 거거든요. 그래서 책에 있는 표를 reproduce하라고 하는데, 이게 잘 안 되네요.

snowall의 이미지

글쓴이: snowall / 작성시간: 월, 2011/03/14 - 8:29오후

그런데 그 수치해석 문제를 꼭 Ruby로 풀어야 하나요?

피할 수 있을때 즐겨라! http://melotopia.net/b

isty2e의 이미지

글쓴이: isty2e / 작성시간: 수, 2011/03/16 - 10:48오전

결국 C로 짰죠... Ruby에서 해결법이 있나 해서요.

aero의 이미지

글쓴이: aero / 작성시간: 월, 2011/03/14 - 9:44오후

http://www.ruby-doc.org/core-1.8.6/classes/Array.html#M000272

pack, unpack은 Ruby뿐만 아니라 Perl, Python에도 있으며 사용법이 거의 비슷합니다.

isty2e의 이미지

글쓴이: isty2e / 작성시간: 수, 2011/03/16 - 10:49오전

감사합니다. 이런 방법도 있었군요.

댓글 달기

텍스트 포맷에 대한 자세한 정보

Filtered HTML

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.

BBCode

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param>
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.

Textile

  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • You can use Textile markup to format text.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>

Markdown

  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • Quick Tips:
    • Two or more spaces at a line's end = Line break
    • Double returns = Paragraph
    • *Single asterisks* or _single underscores_ = Emphasis
    • **Double** or __double__ = Strong
    • This is [a link](http://the.link.example.com "The optional title text")
    For complete details on the Markdown syntax, see the Markdown documentation and Markdown Extra documentation for tables, footnotes, and more.
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>

Plain text

  • HTML 태그를 사용할 수 없습니다.
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
  • 줄과 단락은 자동으로 분리됩니다.
댓글 첨부 파일
이 댓글에 이미지나 파일을 업로드 합니다.
파일 크기는 8 MB보다 작아야 합니다.
허용할 파일 형식: txt pdf doc xls gif jpg jpeg mp3 png rar zip.
CAPTCHA
이것은 자동으로 스팸을 올리는 것을 막기 위해서 제공됩니다.