인프런 커뮤니티 질문&답변
작성한 질문수
mmdetection을 이용한 faster rcnn 관련 문의(np.long)
작성
·
292
0
안녕하세요 mmdetection을 통하여
Faster RCNN 강의 중 문의사항이 있어 문의드립니다
◆ 문의사항
np.long 필요여부
: Class KittyTinyDataset(customDataset) 설정 시
data_anno에서
labels의 dtype을 np.long해야만 하는 이유가 있을까요?(np.int32시 error 남)
data_anno = { "bboxes" : np.array(gt_bboxes, dtype=np.float32).reshape(-1, 4), "labels" : np.array(gt_labels, dtype=np.long), "bboxes_ignore" : np.array(gt_bboxes_ignore, dtype=np.float32).reshape(-1, 4), "labels_ignore" : np.array(gt_labels_ignore, dtype=np.long) }
답변 1
0
권 철민
지식공유자
안녕하십니까,
Deep learning Tensor 연산시 integer는 quantization을 적용할 때 외에는 아예 사용되지 않습니다. 기본적으로 부동 소수점 연산을 이용합니다. 다만 메모리를 고려해서 float32를 주로 적용합니다.
하지만 label값은 값 정의상 integer로 표현 될 수 있지만, loss함수 적용 시 형변환등의 이슈로 사용되지 않으며, 보통 tensorflow는 label값에 float을 적용하는데, pytorch는 long을 적용하는 경우도 있습니다.