프로그래밍 언어/파이썬(Python)
파이썬(Python) 기초 - 부동소수점수의 오차
Hello_World_2016
2015. 3. 9. 19:21
파이썬(Python) 기초 - 부동소수점수의 오차
1. 부동소수점수의 오차
- 컴퓨터는 수를 메모리에 2진수로 저장하기 때문에 소수점 이하를 정확히 표현할 수 없는경우가
발생한다. ex)0.1
-> 컴퓨터는 0.1을 정확히 표현할 수 없으므로 근사치를 사용하기 때문에 계산에 오차가 발생한다.
- 0.1을 정확히 표현할 수 없는 이유