jame0313   2년 전

주어진 a가 소수점이 최대 9자리여서 a를 ret/div 꼴로 변환후 (a*10e9 / 10e9) a/b -2 와 비슷한 문제로 변환하여 직접 나눗셈한 결과를 출력하는 프로그램을 짰습니다. 적지만 나름 테케를 넣어보고 비교해봐도 어디서 오차가 발생하는지 모르겠습니다.

python에서 int는 오버플로우를 고려 안했는데 10^1100 정도 크면 오차가 나나요? 

아니면 **연산자에 오차가 있나요? 

jame0313   2년 전

자문자답합니다. float(a[0])부분에서 오차가 발생해서 다른 방식으로 풀었습니다.

댓글을 작성하려면 로그인해야 합니다.