거대 AI 응용 실행을 위한 고효율 메모리 확장 기술

기술개요

• 2024년 최근 등장하고 있는 Compute eXpress Link(CXL) 기반 메모리 확장 장치를 효과적으로  활용하고 위한 기술로 서버 내의 DRAM과 CXL 메모리를 통합하여 가상머신이 시스템 내의 이종 메모리를 효과적으로 사용하기 위한 기술임

기술개발 목적 및 필요성

• • Compute eXpress Link(CXL)는 컴퓨팅 시스템에서 다양한 컴포넌트들을 연결하기 위한 새로운 인터페이스로 PCI Express와 같은 IO 인터커넥트를 활용하여 CPU와 메모리, 가속기 등을 연결하기 위해서 제시된 차세대 기술임

  
  

  • 특히 CXL메모리는 CXL을 황용하여 CPU, GPU, 혹은 xPU를 연결되는 메모리 제공하는 기술로서 이론상 무한대의 대용량 메모리를 연결할 수 있고, CXL메모리를 CPU에 직접 연결함으로써 병목현상을 줄일 수 있고, 또한 다양한 미디어를 연결하여 메모리로 활용할 수 있는 기회를 제공함

  
  

  • 하지만 기존의 DRAM과 달리 CXL메모리는 높은 지연시간과 낮은 대역폭을 제공함으로써, 이종의 메모리를 고려하지 않는 응용이 CXL메모리에서 동작할 경우 성능 하락이 두드러지게 나타날 수 있으며, 이는 결과적으로 CXL메모리 시장 지닙을 방할 요소를 지니고 있음

  
  

  
  

기술특성

• • 고효율 메모리 확장은 DRAM과 CXL메모리를 활용하여 대용량의 메모리를 활용함과 동시에 속도저하를 관리하기 위한 기능을 제공

  
  

  • 리눅스 커널을 가상머신모너터로 사용하는 KVM 수준에서 구현되고, 리눅스 커널을 수정없이 사용이 간으하며, CXL메모리를 통합한 리눅스 기반 시스템에 배포가 가능함