설명가능한 자가 검증형 RAG 기술

기술개요

• 사용자의 질문에 적합한 응답을 제공하는 AI 기술로, 질문이 입력되면 관련 정보를 검색하고 순위를 매겨 최적의 응답을 생성. 출력 결과에는 질문에 대한 응답과 함께 생성 모델의 자가 검증 결과도 포함되어 있어, 사용자의 신뢰도를 높임

기술개발 목적 및 필요성

• • (정보 탐색 효율성 향상) 디지털 정보의 양이 급격히 증가함에 따라, 사용자가 원하는 정보를 신속하고 정확하게 찾아 내는 기술의 중요성 증가

  
  

  • (고도화된 한국어 처리 능력) 글로벌 AI 기술이 빠르게 발전하고 있으나, 한국어 특화 언어 모델과 생성 모델을 활용 하여 한국어 기반 정보 탐색 및 응답 생성을 고도화하는 기술은 아직 한정적. MoBERT-Large와 Llama3-11b 모델을 통해 한국어에 특화된 정보 검색 및 응답 생성 기능을 강화

  
  

  • (LLM의 환각 현상 완화) 생성하는 응답의 정확도와 판단 근거를 지원함으로써 사용자에게 신뢰 할 수 있는 정보 제공

  
  

  • (다양한 산업 분야에의 응용 가능성) 본 기술은 텍스트 기반 빅데이터의 뉴럴 색인/검색 기능을사용함으로써, 범용 적인 도메인에서 손쉽게 활용 가능

기술의 특징 및 장점

• 
  

  • 한국어 특화 언어모델

  - 한국어 텍스트의 문맥(구문/의미)을 학습하여, 다양한 응용 태스크(언어분석/기계독해/문서분류 등)에 범용적으로 활용 가능한 딥러닝을 위한 언어모델

  - 일반분야 및 전문분야 대상 고품질의 최신 데이터 활용

  - 텍스트 기반 파라미터형 지식 학습을 위한 MorphemePiece기반 한국어에 최적화된 언어이해 모델

  
  

  • 뉴럴 단락 검색 

  - 단락 단위로 구분된 컬렉션을 토큰 단위로 문맥 정보를 색인하고, 질문이 입력되면, 질문과 단락의 전체 토큰 또는 멀 티-뷰 토큰을 기반으로 늦은 상호작용 연산으로 검색 수행

  - 단락을 기반으로 학습된 이해형 언어모델을 사용하여 임베딩 색인

  - 늦은 상호작용 연산 및 특정 토큰을 사용하여 유사도 연산 후 순위화된 단락 집합 검색

  
  

  • 단위 순위화

  - 검색된 단락 집합과 질문이 입력되면, 질문과 단락 간의 관계를 추론하여 단락의 순위 및 점수를 재조정하는 기술

  - 질문-단락 집합 쌍을 사용하여 크로스 인코딩과 지역적 대비 추정 손실 기반 재순위화 모델 학습

  - 단락 집합의 상대적 관계를 고려하여 스코어 재측정 및 랭킹을 산정하는 단락 재순위화 모델

  
  

  • 설명 가능한 자가 검증 모델 학습 및 추론 

  - 질문과 검색 단락 집합을 입력하여, 단락 적합성, 근거 활용성, 응답 적합성 및 설명을 제공 기술

  - 깊이 확장 및 한국어 강화 학습 기반 생성 모델 Llama3-11b

  - 인스트럭션 학습 기반 응답에 대한 자가 검증 및 설명 피드백 제공