2108번 - 통계학
하단의 코드를 넣으면 채점에서 정답이라고 나옵니다.
나만 산술평균, 즉, N개의 숫자들의 합을 N으로 나누는 과정에서
저는 총 합인 sum(double형)을 round(sum/T) 형태로 정답을 구했는데요,
이때 double이 아닌 float을 사용하면 틀린 답으로 나옵니다.
왜 float을 하면 틀린 답으로 나올까요?
컴퓨터로 표현하는 소수는 방식의 특성상 정밀성이 제한됩니다.
double이 float보다 더 정밀하게(실제 값에 대해 오차가 적게) 표현할 수 있습니다.
dyk777님, 감사합니다.
정밀도를 고려하면 float가 아닌 double를 사용해야 한다는 점을 기억해두겠습니다 :-)
댓글을 작성하려면 로그인해야 합니다.
shuhu_01 4년 전
하단의 코드를 넣으면 채점에서 정답이라고 나옵니다.
나만 산술평균, 즉, N개의 숫자들의 합을 N으로 나누는 과정에서
저는 총 합인 sum(double형)을 round(sum/T) 형태로 정답을 구했는데요,
이때 double이 아닌 float을 사용하면 틀린 답으로 나옵니다.
왜 float을 하면 틀린 답으로 나올까요?