기술개요
딥러닝 신경망이 가진 '블랙박스 문제'를 해결하고자, 신경망 내부 구조를 사람이 해석 가능한 심볼릭 인공지능(Symbolic AI) 그래프로 변환하는 기술임.
기술 구현 내용
■ 시스템 구성 요소
1) 신경망 구획부: 심층 신경망을 여러 블록으로 구획
2) 결과 추출부: 각 블록별 액티베이션 값 추출 및 노드·엣지 생성
3) 결과 변환부: 추출한 값 → 0/1 기반 변환 단어 생성
4) 단어 병합부: 동일 단어/출력값을 가진 노드 간 병합 수행
■ 핵심 절차
1) 신경망 블록 구획화
2) 액티베이션 값 추출 → 노드/엣지 생성
3) 각 값 자리수 기준으로 변환 단어 생성 (예: 0.2 → 1)
4) 유사 단어 병합 → 그래프 간소화
5) 입력-출력 노드 간 확률 기반 연결 분석
6) 충돌 가능 노드 삭제 또는 대체 노드로 연결
■ 적용 예시
통신 네트워크의 UE (단말)-기지국 간 스케줄링 상황을 시뮬레이션하는 딥러닝 모델을 설명 가능한 그래프로 변환하여, 오류 발생 가능 노드를 시각적으로 파악하고 수정 가능
시장성
■ AI 사용 확대에 따라 설명 가능한 AI(XAI) 기술은 규제, 신뢰성, 안정성이 중요한 분야에서 필수적임
■ XAI 시장
글로벌 XAI 시장 규모는 2024년 기준 86억 3,000만 달러에서 29년 211억 9,000만 달러까지 연평균 19.69% 성장할 것으로 전망됨.
금융, 소매, 의료 등 다양한 산업에서 공정성, 책임, 윤리적 사용을 제공하기 위한 규제 및 컴플라이언스 요건이 높아져 성장하고 있으며, 국가 및 규제기관은 윤리적인 서비스를 보장하고 잘못된 결과를 방지하기 위해 AI 시스템에서 투명성과 책임의 중요성을 인식하고 있음.
기술의 차별성
1) 기존 기술의 한계점
기존의 딥러닝 기반 인공지능 기술은 높은 성능에도 불구하고 내부 작동 원리를 해석하기 어려운 블랙박스 구조로 인해, 의료, 자율주행, 금융 등 고신뢰성과 설명 가능성이 요구되는 분야에서는 활용에 제약이 있음.
또한, 새로운 환경이나 데이터 변화에 따라 재학습이 필요하며 적응력이 낮고, 모델이 대규모 파라미터에 의존하여 모바일이나 엣지 환경에서 적용이 어렵다는 문제점이 존재함.
2) 본 발명의 특장점
본 발명은 심층 신경망의 구조를 사람이 이해할 수 있는 심볼릭 인공지능 그래프로 변환함으로써, 딥러닝의 블랙박스 문제를 해결하고 해석 가능성과 신뢰성을 확보함.
신경망의 액티베이션 값을 기반으로 노드와 엣지를 생성하고, 변환 단어를 통해 의미 기반의 노드 병합 및 확률 분석을 수행하여 구조적 간소화와 연산 효율화를 동시에 달성함.
또한, 특정 노드 간의 유사도 분석을 통한 오류 노드의 대체 및 수정이 가능하여 재학습 없이도 시스템의 안정성을 유지할 수 있음.
