예측 기여도 낮은 데이터 제거해 높은 신뢰도 형성
(내외방송=정지원 과학전문 기자) 인공지능 심층학습(딥러닝) 의사결정에 큰 영향을 미치는 입력 기여도를 측정할 수 있는 알고리즘이 개발돼 예측된 모델에 대한 신뢰성이 높아질 것으로 기대된다.
KAIST(한국과학기술원)는 23일 '내외방송'에 보낸 자료에서 "최재식 김재철AI대학원 교수 겸 (주)인이지 대표이사 연구팀이 인공지능 딥러닝 의사결정에 큰 영향을 미치는 입력 변수의 기여도를 계산하는 세계 최고 수준의 기술을 개발했다"고 밝혔다.
연구팀은 인공지능 딥러닝 모델이 실생활에 적용될 때 발생하는 부족한 설명성을 해결하는 것에 주목했다.
딥러닝 모델이 국소적인 입력 공간에서 보이는 입력 데이터와 예측 사이의 관계를 기반으로 모델 예측 기여도가 높은 것만을 점진적으로 추출해나가는 알고리즘과 이 관계를 종합하는 방법을 고안해 모델 예측 과정에 기여하는 입력 특징의 정확한 기여도를 계산한 것이다.
기여도가 적은 특징들이 선별되고 제거되는 과정이 반복돼 기여도가 높은 특징만 남게 되면 신뢰도가 높은 최종 입력 기여도가 산출된다.
이 기술은 모델 구조에 대한 의존성이 없어서 다양한 모델에서 적용이 가능할 뿐만 아니라 딥러닝 예측 모델의 판단 근거도 제공함으로써 신뢰도를 높일 수 있다.
이 장점으로 복잡한 공정 내부의 다양한 예측 변수 간 상관관계를 정확하게 분석하고 예측함으로써 공장 최적화 효과도 도출할 수 있다.
전기영 연구원은 "딥러닝 모델의 국소 지역에서 계산된 입력 기여도를 통해 상대적으로 중요도가 낮은 입력을 점진적으로 제거하며 이 과정에서 축적된 입력 기여도를 종합해 더욱 정확한 설명을 제공할 수 있다"고 말했다.
전기영 (주)인이지 연구원과 정해동 KAIST 김재철AI대학원 연구원이 공동 제1저자로 참여한 이 연구는 과학기술정보통신부 등의 지원을 받아 수행됐으며 국제 학술대회인 '신경정보처리학회 2022(NeurIPS)'에서 다음달 1일 발표될 예정이다.
