double precision
-
부동소수점Javascript 2016. 11. 29. 21:09
자바스크립트의 숫자 자료형의 부동소수점 이슈에 관한 내용을 보게 되었다. 사실 오차가 발생한다더라 정도에서 왜? 에 대한 질문에 항상 답을 찾아보지 않고 넘어가곤 했다. 이 포스팅을 통해 부동소수점이 무엇이고 오차가 발생하는 이유가 무엇인지 정리하고자 한다. 부동소수점이란 부동소수점 또는 떠돌이 소수점 방식은 실수를 표현할 때 소수점의 위치를 고정하지 않고 그 위치를 나타내는 수롤 따로 적는 것으로, 유효숫자를 나타내는 가수와 소수점의 위치를 풀이하는 지수로 나누어 포현한다. 컴퓨터에서는 고정 소수점 방식보다 넓은 범위의 수를 나타낼 수 있어 과학기술 계산에 많이 이용되지만 근사값으로 표현되며 고정 소수점 방식보다 연산속도가 느리기 때문에 별도의 전용 연산장치를 두는 경우가 많다. 고정 소수점과 달리 정..