double형 계산 오류 도움요청합니다8
- 워러멜론
- 등록일 2022-08-24 18:11
- 조회수 1056
|
||
0
추천하기
다른의견
0
파워링크 
등록안내
|
 0
 0
뉴욕비키라
오래되서 가물가물한데 부동소수점 오차에 관련된 문제로 기억하거든요.
이참에 해당 키워드로 검색해서 원리를 공부해 보세요.
2022-08-25
|
|
0
0
저장후이동
요즘은 어떻게하는지 모르겠는데, 예전에는 모두 정수로 계산했습니다.
함수 하나 만들어서, 밸류값 넣고 계산하는데
값의 소수점 위치를 확인하고
소수점 한자리는 곱하기 10, 소수점 두자리는 곱하기 100을 합니다
정수로 만들어서 계산한 뒤에, 다시 나누기 10, 나누기 100을 합니다.
그래야 정확한 계산이 되었구요.
2022-08-26
|
|
|
|
 |
|
| △ 이전글▽ 다음글 | -목록보기 |
|
decimal 찾아보세요