์ต๊ทผ ๋ถํ์ ์ด๋์ ๋ฏธ์ฌ์ผ ๋ฐ์ฌ๋(TEL)๋ฅผ ํ์ฉํ ๋น๋์นญ ์ ๋ ฅ์ ๊ฐํํ๊ณ ์์ผ๋ฉฐ, ์ด์ ๋ฐ๋ผ TEL ์ ๊ฐ ๊ฐ๋ฅ์ง์ญ์ ์กฐ๊ธฐ์ ์๋ณํ๋ ๊ธฐ์ ์ ์ค์์ฑ์ด ์ฆ๋๋๊ณ ์๋ค. ๋ณธ ์ฐ๊ตฌ๋ ๊ธฐ์กด์ ๊ตฌ์ถ๋ U-Net ๊ธฐ๋ฐ TEL ํ์ง ๋ชจ๋ธ์ ์ค๋ช ๊ฐ๋ฅํ ์ธ๊ณต์ง๋ฅ(Explainable AI, XAI) ๊ธฐ๋ฒ์ธ Score-CAM์ ์ ์ฉํ์ฌ, ๋ชจ๋ธ์ ํ๋จ ๊ทผ๊ฑฐ๋ฅผ ์๊ฐํํ๊ณ Faithfulness ํ๊ฐ๋ฅผ ํตํด ์ ๋์ ์ผ๋ก ๊ฒ์ฆํ๊ณ ์ ํ์๋ค. ์๊ฐํ ๋ถ์ ๊ฒฐ๊ณผ, ๋ชจ๋ธ์ ๋๋ก ์ ๊ทผ์ฑ, ๋ฐฐ์น ๊ฐ๋ฅ ๋ฉด์ (๊ฐํ์ง), ์๋์ฑ(์ฐ๋ฆผ) ๋ฑ TEL ์ด์ฉ ์กฐ๊ฑด์ ์ง์คํ๋ ๊ฒฝํฅ์ ๋ณด์๋ค. Faithfulness ๊ฒ์ฆ์์๋ Insertion ์คํ์ด ๋ฌด์์(Random) ๋๋น ํต๊ณ์ ์ผ๋ก ์ ์ํ ์ฐจ์ด(p < 0.001)๊ฐ ๋ํ๋ Score-CAM์ด ๋ชจ๋ธ ์์ธก์ ๊ธฐ์ฌํ๋ ํต์ฌ ๊ทผ๊ฑฐ๋ฅผ ํ๋นํ๊ฒ ํฌ์ฐฉํ๊ณ ์์์ ์ ์ฆํ์๋ค. ๋ฐ๋ฉด, Deletion ์คํ์์๋ ๋ฎ์ ์ ์์ฑ์ ๋ณด์ฌ, TEL ์ ๊ฐ ๊ฐ๋ฅ์ฑ ํ๋จ๊ณผ ๊ฐ์ด ๊ด๋ฒ์ํ ์งํ ํจํด์ ๊ธฐ๋ฐํ ๋ฌธ์ ์์๋ ํด๋น ์ ๋์ ์งํ ํ์ฉ์ ์ ํ์ด ์์์ ์์ฌํ์๋ค. ์ด๋ฌํ ์๊ฐ์ ยท์ ๋์ ๊ฒ์ฆ ๊ฒฐ๊ณผ๋ ๋ฅ๋ฌ๋ ๊ธฐ๋ฐ ํ์ง ๋ชจ๋ธ์ ์ค๋ช ๊ฐ๋ฅ์ฑ๊ณผ ์ ๋ขฐ์ฑ์ ํ๋ณดํ์ฌ ๊ณ ์ํ ๊ตฐ์ฌ์ ์์ฌ๊ฒฐ์ ์ง์ ์์คํ ์์์ ํ์ฉ ๊ธฐ๋ฐ์ ๋ค์ง๋ ๊ธฐ์ด ์ฐ๊ตฌ๋ก์ ํ์ ์ ์์๋ฅผ ์ง๋๋ค.
Park et al. (Thu,) studied this question.