🤫
Keep CALM and Improve Visual Feature Attribution
Tags
Explainable AI
Created
2021/07/31 07:28
Publication
ICCV'21
Rate
4
Summary
기존의 CAM은 잘 작동하는 것 같기는 하지만, 그 의미를 해석하기 어렵다는 문제가 있다. 이를 해결하는 것이 논문의 주요 문제의식이며, 이 해결을 위해 페이퍼에서는 이미지의 위치 정보를 latent variable Z로 도입하여 p(y, z|x)라는 확률적으로 해석 가능한 activation map을 뽑아낼 것을 제안한다. 이 때 이러한 확률적 해석이 가능하도록 유도하기 위해 Z에 대한 feature를 EM 알고리즘을 활용하여 학습한다.