4781번 - 사탕 가게
푼 언어가 JS도 아니고 큰 수 연산을 하는 것도 아닌데 어떻게 오차가 발생할 수 있는지 이해가 되지 않습니다...
그리고 그 오차를 일으키는 데이터가 무엇이길래...
100을 곱했을 때 오차가 생기는 데이터의 예시가 궁금합니다.
자문 자답입니다.
직접 돌려보고도 믿기지가 않네요... double을 너무 과대평가 했던 것 같습니다.
일반적으로 많이 쓰이는 부동소수점 표준상으로는 0.01이라는 값을 정확하게 표현할 수가 없습니다. 표현 가능 범위 내에 들어온다고 하더라도 분모가 2의 거듭제곱 꼴이 아닌 수에는 모두 오차가 발생합니다.
댓글을 작성하려면 로그인해야 합니다.
herdson 3년 전 1
푼 언어가 JS도 아니고 큰 수 연산을 하는 것도 아닌데 어떻게 오차가 발생할 수 있는지 이해가 되지 않습니다...
그리고 그 오차를 일으키는 데이터가 무엇이길래...
100을 곱했을 때 오차가 생기는 데이터의 예시가 궁금합니다.