[과학]인공지능 모델 신뢰성 높이는 알고리즘?
[과학]인공지능 모델 신뢰성 높이는 알고리즘?
  • 정지원 기자
  • 승인 2022.11.23 13:49
이 기사를 공유합니다

인공지능 딥러닝 의사결정에 영향 주는 '입력 변수 기여도 계산법'
예측 기여도 낮은 데이터 제거해 높은 신뢰도 형성
(왼쪽부터)최재식 KAIST 김재철AI대학원 교수와 전기영 (주)인이지 연구원, 정해동 KAIST 김재철AI대학원 연구원.(사진=KAIST)
(왼쪽부터)최재식 KAIST 김재철AI대학원 교수와 전기영 (주)인이지 연구원, 정해동 KAIST 김재철AI대학원 연구원.(사진=KAIST)

(내외방송=정지원 과학전문 기자) 인공지능 심층학습(딥러닝) 의사결정에 큰 영향을 미치는 입력 기여도를 측정할 수 있는 알고리즘이 개발돼 예측된 모델에 대한 신뢰성이 높아질 것으로 기대된다.

KAIST(한국과학기술원)는 23일 '내외방송'에 보낸 자료에서 "최재식 김재철AI대학원 교수 겸 (주)인이지 대표이사 연구팀이 인공지능 딥러닝 의사결정에 큰 영향을 미치는 입력 변수의 기여도를 계산하는 세계 최고 수준의 기술을 개발했다"고 밝혔다.

연구팀은 인공지능 딥러닝 모델이 실생활에 적용될 때 발생하는 부족한 설명성을 해결하는 것에 주목했다.

딥러닝 모델이 국소적인 입력 공간에서 보이는 입력 데이터와 예측 사이의 관계를 기반으로 모델 예측 기여도가 높은 것만을 점진적으로 추출해나가는 알고리즘과 이 관계를 종합하는 방법을 고안해 모델 예측 과정에 기여하는 입력 특징의 정확한 기여도를 계산한 것이다.

증류 절차를 통한 기여도 계산 알고리즘 모식도.(사진=KAIST)
증류 절차를 통한 기여도 계산 알고리즘 모식도.(사진=KAIST)

기여도가 적은 특징들이 선별되고 제거되는 과정이 반복돼 기여도가 높은 특징만 남게 되면 신뢰도가 높은 최종 입력 기여도가 산출된다.

이 기술은 모델 구조에 대한 의존성이 없어서 다양한 모델에서 적용이 가능할 뿐만 아니라 딥러닝 예측 모델의 판단 근거도 제공함으로써 신뢰도를 높일 수 있다.

이 장점으로 복잡한 공정 내부의 다양한 예측 변수 간 상관관계를 정확하게 분석하고 예측함으로써 공장 최적화 효과도 도출할 수 있다.

전기영 연구원은 "딥러닝 모델의 국소 지역에서 계산된 입력 기여도를 통해 상대적으로 중요도가 낮은 입력을 점진적으로 제거하며 이 과정에서 축적된 입력 기여도를 종합해 더욱 정확한 설명을 제공할 수 있다"고 말했다.

전기영 (주)인이지 연구원과 정해동 KAIST 김재철AI대학원 연구원이 공동 제1저자로 참여한 이 연구는 과학기술정보통신부 등의 지원을 받아 수행됐으며 국제 학술대회인 '신경정보처리학회 2022(NeurIPS)'에서 다음달 1일 발표될 예정이다.

 


오늘의 이슈
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 법인 : (주)내외뉴스
  • 인터넷신문등록번호 : 서울, 아04690
  • 인터넷신문등록일자 : 2017년 09월 04일
  • 발행일자 : 2017년 09월 04일
  • 제호 : 내외방송
  • 내외뉴스 주간신문 등록 : 서울, 다 08044
  • 등록일 : 2008년 08월 12일
  • 발행·편집인 : 최수환
  • 서울특별시 종로구 대학로 13 (뉴스센터)
  • 대표전화 : 02-762-5114
  • 팩스 : 02-747-5344
  • 청소년보호책임자 : 최유진
  • 내외방송 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2022 내외방송. All rights reserved. mail to webmaster@nwtn.co.kr
인신위 ND소프트