luniro   5년 전

해당 문제에서 예제의 경우 3.275가 답이 되어 아래 코드의 첫 번째 줄과 같이 출력하게 되면, 반올림 처리가 되는데도 불구하고 3.27로 나오기도 합니다

실수의 연산이기에 디버깅을 위해 찍어봐도 3.27500000으로 나오지만 실제로는 3.274999999999......의 값을 갖게 되어 2번째 줄과같이 처리를 해 주어야 하는데 이것이 의도된 것인지 궁금합니다

djm03178   5년 전

부동소수점수의 표현 방법에 대해 알아보시면 좋을 듯 합니다.

불안정성을 의도했다기보다는, 표현 범위를 확장하기 위해 오차가 발생하는 것을 감안했다고 봐야 합니다.

댓글을 작성하려면 로그인해야 합니다.