인프런 커뮤니티 질문&답변
작성한 질문수
3.11 강의에 대한 질문 드립니다.
작성
·
342
0
float f 가 123.456001 가 궁금해서 질문을 보는 중 3.12 강의를 보면 된다고 하셨는데 제가 이해하기로는 유효숫자가 6개 이기 때문에 그 이후의 값은 정확하게 출력되지 않아서 123.456000이 아닌 123.456001이 출력된것이라 이해해도 될까요?
답변 3
7
부동소수점 형태로 저장하면
float로 저장하는 경우 4바이트 겠죠?
근데 컴퓨터에 저장될때 2진 소수로 바뀌죠? 총 32 비트겠죠?
그럼 1비트는 sign에쓰고 8비트는 지수에 쓰고 나머지 23비트를 가수에쓰겠죠?
23비트를 쓴단 말은 가수 첫 비트가 2^-1 부터 시작하니까 2^-23 까지 쓴단 말이겠죠?
그럼 오차는 어디서부터 발생할까요?
2^-24번째 비트부터 생겨나겠죠?
그럼 '최대'오차가 얼마일까요? 2^-24 X 1 + 2^-25 X 1 + 2^-26 X 1 + ... 이거겠죠?
이거 수능공부할때 많이 봤죠? 무한등비급수의 합이죠?
다 더하면 얼마에요? 2^-23 이죠?
2^-23 은 10진수로 0.0000001192 죠?
그래서 float의 정밀도가 7자리입니다(소수점이하 6자리)
쭉 따라 읽으시면 이해가 되실겁니다 :)
1
0
감사합니다.