공과대학

수소 열처리, 정밀 펄스 프로그래밍 기반 자가 정류 RRAM 기술 개발
기존 메모리의 전도도 감소 한계 완벽 극복
최대 64개 전도도 상태 유지하며 35개 음성 명령어 인식 정확도 92.5% 기록
저전력 엣지 AI, 인메모리 컴퓨팅, 차세대 뉴로모픽 반도체 시장의 게임체인저 기대

인공지능(AI)과 빅데이터 기술이 전 세계 산업 지형을 급격하게 바꾸고 있는 가운데 이를 뒷받침할 차세대 반도체 연산 소자 개발 경쟁이 뜨겁게 달아오르고 있다. 특히 기존 컴퓨팅의 한계를 넘어 인간 뇌의 신경망을 모사하는 뉴로모픽 연산과 인메모리 컴퓨팅 기술은 초저전력·고효율 AI 시스템의 핵심 열쇠로 꼽힌다. 그러나 기존의 저항성 메모리(RRAM)는 시간이 흐름에 따라 전도도가 감소해 AI 연산에 필요한 시냅스 가중치를 안정적으로 유지하지 못한다는 치명적인 한계를 지니고 있었다. 

이러한 상황에서 국내 연구진이 기존의 한계를 전격 극복하고 트랜스포머 기반 연산에 직접 적용 가능한 혁신적인 차세대 메모리 소자 기술을 제시해 세계 학계의 주목을 받고 있다. 동국대학교(총장 윤재웅)은 김성준 전자전기공학과 교수 연구팀이 김윤 서울시립대학교 교수 연구팀과의 공동연구를 통해 수소 열처리 기술과 정밀 펄스 프로그래밍 기법을 결합해 트랜스포머 연산에 최적화된 ‘6비트 자가 정류 RRAM(저항성 메모리) 소자’를 개발하는 데 성공했다고 6일 밝혔다.

이번 연구는 저항성 메모리의 최대 약점이었던 전도도 감소 현상과 시냅스 가중치 유지력 한계를 극복하고 실제 트랜스포머 기반 음성 인식 모델에서 92.5%라는 압도적인 분류 정확도를 입증해 냄으로써 차세대 AI 반도체 상용화의 새 지평을 열었다는 평가를 받는다. 이번에 거둔 획기적인 연구 성과는 그 우수성과 학술적 가치를 높이 인정받아 세계적인 국제 학술지 ‘에드밴스드 사이언스(Advanced Science, IF=14.1)’ 2026년 온라인판에 공식 게재되었다.

기존에 개발된 자가 정류 RRAM 소자들은 시간 경과에 따라 메모리 내 전도도가 서서히 감소하는 물리적 한계가 존재했다. 이는 뉴로모픽 연산의 핵심 요소인 다중 시냅스 가중치를 정밀하고 안정적으로 유지하는 데 커다란 걸림돌로 작용해 왔다. 연구팀은 HfO₂/TiOₓ 기반 자가 정류 RRAM 박막 내부에서 발생하는 산소 공공 관련 결함에 주목했다. 이를 개선하기 위해 수소 열처리 공정을 전격 도입함으로써 박막 내부의 결함을 안정화시켰고 시간이 지나도 전도도가 떨어지지 않도록 억제하는 데 성공했다.

이어 연구진은 ‘ISPVA(Incremental Step Pulse with Verify Algorithm, 검증 알고리즘을 동반한 증량 단계 펄스)’ 기법을 정밀하게 적용했다. 이를 통해 극도로 안정적인 저항 상태와 획기적으로 향상된 데이터 유지 특성을 동시에 확보했다. 그 결과 최대 64개의 구분 가능한 전도도 상태(6비트)를 구현해 냄으로써 아날로그 시냅스 가중치를 매우 정밀하게 제어할 수 있는 길을 열었다. 연구팀은 개발한 6비트 소자의 실제 가중치, 소자 편차 데이터를 트랜스포머 기반 음성 명령어 인식 모델에 전격 반영해 성능 평가를 진행했다. 실제 반도체 소자에서 발생할 수 있는 비이상적인 물리적 환경을 그대로 적용했음에도 불구하고 총 35개의 음성 명령어 분류 테스트에서 92.5%에 달하는 높고 안정적인 인식 정확도를 달성했다. 이는 기존 32비트 이상적 AI 모델의 연산 성능에 완벽하게 근접한 수준으로 연구팀이 개발한 RRAM 소자가 단순 신경망을 넘어 복잡한 트랜스포머 기반 뉴로모픽 연산 소자로 즉시 활용될 수 있음을 실증해 낸 결과다.

이번 기술 개발은 기존 순환신경망(RNN) 및 합성곱신경망(CNN) 중심에 머물러 있던 RRAM 메모리 응용 범위를 차세대 AI의 표준인 트랜스포머 모델까지 대폭 확장시켰다는 점에서 의미가 매우 깊다. 향후 저전력 엣지 AI 기기, 온디바이스 음성 인식, 인메모리 컴퓨팅, 차세대 뉴로모픽 반도체 등 초고속·저전력 AI 시스템 전반에 폭넓게 적용될 것으로 기대를 모으고 있다.

김성준  동국대 전자전기공학과 교수는 “이번 연구는 수소 열처리와 정밀 펄스 프로그래밍 공정을 통해 RRAM의 다중 전도도 상태를 성공적으로 안정화하고 이를 실제 트랜스포머 기반 음성 인식 연산에 직접 연결해 증명한 성과”라며 “공동 연구진의 긴밀한 협력을 통해 소자 설계, 분석부터 트랜스포머 기반 시스템 평가까지 전체 연구 과정의 완성도를 극대화할 수 있었다”고 말했다.

한편 이번 혁신적 연구는 과학기술정보통신부가 지원하는 한국연구재단(NRF) 사업과 교육부·서울시가 지원하는 지역혁신중심 대학지원체계(RISE)의 든든한 지원을 바탕으로 수행됐다.

출처 : 스마트경제(http://www.dailysmart.co.kr) 복현명 기자