[잡담] 엑셀 계산 미스? 잘 아시는분

[닉네임이길어서 정말죄송합니다]

엑셀 소수점 포함 숫자가 15자리밖에 표시가 안되길래

더 긴자리수 만들려고 만들어 봤는데

중간부터 계산이 이상해 지는데

왜 이러는지 아신는분?

원래대로면 h5 값이 0.3이 정확하게 나와야 하는데 저럼

계산 자체는 8/1.1 이 그대로 들어간 상태임(F6과 동일)

[TheSalaryHunter]

[닉네임이길어서 정말죄송합니다]

확인해보니까 c6 하고 e6 자체도 숫자가 다른데
숫자 자체가 0.8이 아닌상태임;;

[치즈만두]

엑셀이 상황에 따라 그럴때가 있음
화면상에 표시되고 있는 숫자는 1이라고 되어있는데 실제 값은 0.99999999994 라던가
결국 어느 수준에서 반올림/올림/내림이 되고있느냐가 문제인데
1차 2차 ... 쭉 보면
G6까지는 반올림 해서 0.8로 나타낼 수 있는 수치인데 H6부터는 뒤로 갈수록 점점 실제 수치가 보일거야
사실상 G6까지도 실제로 0.8이 아니고 예를 들면 0.79999999999923 뭐 이런숫자인데 표기상 0.8로 보여줬던거임

[치즈만두]

함수가 mod 걸려있는거 보니까
8/1.1 인 7.272727272727...의 나머지를 구하게 되어있는데
그럼 0.272727272727...의 나머지 해서
27272727272727... 무한대의 숫자가 나와야하잖아
근데 그러면 평생 값을 표기할수가 없으니까 그냥 값은 0.27272727272727로 가지고 있으면서
우리한테 보여주는 값만 0.3으로 보여준거임
그 값에다가 계속 1.1로 나누고 있으니까 점점 똑같은 무한대의 2727272727이 아니라
272727이 나오다가 뒤가 갑자기 99994234 뭐 이런 걸로 나오기 시작한거지

[닉네임이길어서 정말죄송합니다]

a5, b5에 각각 10씩 곱해주고 하니까 해결 되네요..
소수점 있냐 없냐 차이가 크네요