이런 일이 일어날 줄은 몰랐는데 -_-; 어쩌다 보니 반드시 single precision으로 처리해야 하는 일이 생겼습니다.
그런데 documentation을 뒤져 보니까 precision을 떨어뜨릴 방법이 안 보이더군요. 구글링해도 마찬가지구요.
뭔가 round 비슷한 걸 써서 떨어뜨리면 해결이 되려나요?
일반적으로 안 쓰이는 것이니까요.
숙제를 해야 하는데, 그 숙제가 뭔고 하니 수치해석에서 지나치게 mesh를 조밀하게 잡으면 roundoff error 때문에 오히려 결과가 부정확해진다는 걸 보이는 거거든요. 그래서 책에 있는 표를 reproduce하라고 하는데, 이게 잘 안 되네요.
그런데 그 수치해석 문제를 꼭 Ruby로 풀어야 하나요?
피할 수 있을때 즐겨라! http://melotopia.net/b
결국 C로 짰죠... Ruby에서 해결법이 있나 해서요.
http://www.ruby-doc.org/core-1.8.6/classes/Array.html#M000272
pack, unpack은 Ruby뿐만 아니라 Perl, Python에도 있으며 사용법이 거의 비슷합니다.
감사합니다. 이런 방법도 있었군요.
이유를 정확히 알아야 도움되는 방법을 알 듯 하네요.
일반적으로 안 쓰이는 것이니까요.
숙제를 해야 하는데, 그 숙제가 뭔고 하니
숙제를 해야 하는데, 그 숙제가 뭔고 하니 수치해석에서 지나치게 mesh를 조밀하게 잡으면 roundoff error 때문에 오히려 결과가 부정확해진다는 걸 보이는 거거든요. 그래서 책에 있는 표를 reproduce하라고 하는데, 이게 잘 안 되네요.
그런데 그 수치해석 문제를 꼭 Ruby로 풀어야
그런데 그 수치해석 문제를 꼭 Ruby로 풀어야 하나요?
피할 수 있을때 즐겨라! http://melotopia.net/b
결국 C로 짰죠... Ruby에서 해결법이 있나
결국 C로 짰죠... Ruby에서 해결법이 있나 해서요.
pack, unpack 쓰면 될 것 같네요.
http://www.ruby-doc.org/core-1.8.6/classes/Array.html#M000272
pack, unpack은 Ruby뿐만 아니라 Perl, Python에도 있으며 사용법이 거의 비슷합니다.
감사합니다. 이런 방법도 있었군요.
감사합니다. 이런 방법도 있었군요.