Doarchive

임베딩 차원을 늘렸을 때의 장단점 본문

Computer Vision/Deep learning

임베딩 차원을 늘렸을 때의 장단점

오순발닦개 2023. 4. 19. 13:36

 

 

장점

더 많은 정보를 포함할 수 있습니다.

임베딩 차원이 커질수록 입력 데이터의 다양한 특징들을 더 잘 포착할 수 있습니다. 더 정교한 모델링이 가능합니다.

 더 복잡한 함수를 모델링할 수 있습니다.

 

단점

과적합(overfitting)이 발생할 가능성이 높습니다.

임베딩 차원이 커질수록 모델의 복잡도가 증가하므로, 학습 데이터에 대한 성능이 높아지지만 테스트 데이터에 대한 성능이 낮아질 수 있습니다.

연산 비용이 증가합니다. 임베딩 차원이 커질수록 모델의 파라미터 개수가 증가하므로, 학습 및 추론 시간이 더 오래 걸릴 수 있습니다. 

728x90