herdson   3년 전

푼 언어가 JS도 아니고 큰 수 연산을 하는 것도 아닌데 어떻게 오차가 발생할 수 있는지 이해가 되지 않습니다...

그리고 그 오차를 일으키는 데이터가 무엇이길래...

100을 곱했을 때 오차가 생기는 데이터의 예시가 궁금합니다.

herdson   3년 전

자문 자답입니다.

직접 돌려보고도 믿기지가 않네요... double을 너무 과대평가 했던 것 같습니다.

djm03178   3년 전

일반적으로 많이 쓰이는 부동소수점 표준상으로는 0.01이라는 값을 정확하게 표현할 수가 없습니다. 표현 가능 범위 내에 들어온다고 하더라도 분모가 2의 거듭제곱 꼴이 아닌 수에는 모두 오차가 발생합니다.

댓글을 작성하려면 로그인해야 합니다.