해결된 질문
작성
·
243
0
float 형을 예로 들면,
표현 범위가 1.17*10^(-38) 부터라고 되어있는데, 유효 숫자는 소수점 이하 6자리인 이유는 무엇인가요?
답변 1
0
실수값 전체의 표현 범위는 정수부분과 실수 부분 모두를 포함합니다. 표현의 범위가 넓다하더라도 해상도가 낮아 값에 왜곡이 큽니다. 다음 코드 예제의 결과를 확인해보면 값의 왜곡을 쉽게 체감 할 수 있습니다.
43억 정도의 값(부호가 없는 정수형의 최댓값을 넘는 수)을 출력 할 경우 정수값 수준에서도 오차가 눈에 보입니다. 참고하시기 바랍니다. 😄