shuhu_01   4년 전

하단의 코드를 넣으면 채점에서 정답이라고 나옵니다. 

나만 산술평균, 즉, N개의 숫자들의 합을 N으로 나누는 과정에서

저는 총 합인 sum(double형)을 round(sum/T) 형태로 정답을 구했는데요,

이때 double이 아닌 float을 사용하면 틀린 답으로 나옵니다.

왜 float을 하면 틀린 답으로 나올까요?

dyk777   4년 전

컴퓨터로 표현하는 소수는 방식의 특성상 정밀성이 제한됩니다.

double이 float보다 더 정밀하게(실제 값에 대해 오차가 적게) 표현할 수 있습니다.

shuhu_01   4년 전

dyk777님, 감사합니다.

정밀도를 고려하면 float가 아닌 double를 사용해야 한다는 점을 기억해두겠습니다 :-)

댓글을 작성하려면 로그인해야 합니다.