[대학저널 임춘성 기자] 경북대학교 연구팀이 온디바이스 인공지능(AI) 기기의 연산 속도와 전력 효율을 높일 수 있는 AI 가속기 반도체 기술을 개발했다. 경북대 전자전기공학부 박승현 연구원과 박대진 교수 연구팀은 숫자의 상위 비트만 먼저 계산해 최종 출력이 0이 될지를 예측하고 불필요한 연산을 생략하는 ‘비트 분리형 곱셈기(BSM)’ 기반 기술을 개발했다고 밝혔다.
인공지능의 이미지 인식에 널리 사용되는 합성곱신경망(CNN)은 데이터의 특징을 찾기 위해 수많은 곱셈과 누산 연산을 반복한다. 연산 이후에는 결과를 정리하는 과정에서 활성화 함수인 ‘ReLU’를 거치게 되는데, 이 함수는 계산 결과가 음수이면 무조건 0으로 바꾸는 특성이 있다. 문제는 기존 AI 반도체가 최종 결과가 0이 될 계산도 일반적인 계산과 마찬가지로 끝까지 수행한다는 점이다. 연구팀 분석 결과 ReLU를 통과한 출력 중 0이 되는 비율은 평균 약 54%에 달했다. 즉, AI 반도체 연산의 상당수가 최종적으로 사용되지 않는 0을 만들기 위해 전력을 소비하고 있었던 셈이다.
연구팀은 이를 해결하기 위해 이진수 숫자의 상위 비트가 전체 크기와 부호에 큰 영향을 준다는 점에 착안했다. 개발된 비트 분리형 곱셈기는 8비트 가중치를 상위 4비트와 하위 4비트로 나눈 뒤 상위 비트를 먼저 계산한다. 상위 비트 계산 결과가 큰 음수여서 최종 출력이 어차피 0이 될 것으로 예측되면 하위 비트 계산을 과감히 생략한다. 결과 판단이 불확실할 때만 하위 비트까지 추가로 계산하는 선택적 건너뛰기 방식이다.
연구팀은 제안한 기술을 상용 130나노미터(nm) 반도체 공정을 통해 신경망처리장치(NPU) 시제품으로 제작해 검증했다. 해당 가속기는 200MHz로 동작하며, 조건에 따라 와트당 1,666~3,008 TOPS의 높은 연산 효율을 달성했다.
이번 기술은 스마트폰, 웨어러블 기기, 드론, 로봇 등 배터리와 반도체 면적이 제한된 온디바이스 AI 환경에 유용하게 활용될 수 있으며, 현재 미국 특허로 출원된 상태다. 동일한 배터리로 AI 기능을 더 오래 사용하거나 같은 전력에서 더 빠른 성능을 제공할 수 있는 장점이 있다.
한편, 이번 연구 결과는 반도체 및 컴퓨터 아키텍처 분야의 국제 학술지인 ‘IEEE MICRO’ 2026년 3~4월호(제목: Exploiting Output Activation Sparsity Using Bit-Separable Multiplier in Convoluted Neural Network Accelerator)에 게재됐다. 본 연구는 엣지용 자가지도학습 통합 솔루션 개발, 자율 군집 소프트웨어 연구 센터, 디지털 콜럼버스, BK21 과제들과 IDEC MPW의 지원을 받아 수행되었다.
[저작권자ⓒ 대학저널. 무단전재-재배포 금지]
