국내 연구진, 전력 소모량 ‘625분의 1’ AI 반도체 개발

https://etoland.co.kr/link.php?n=9050463 복사

지난달 미국 샌프란시스코에서 개최된 국제고체회로설계학회(ISSCC)에서 김상엽 카이스트 박사가 AI반도체에 관해 참가자에게 설명하고 있다. 카이스트 제공

국내 연구진이 고성능을 발휘하면서도 전기는 매우 적게 사용하는 인공지능(AI) 반도체를 개발했다. 사람과 대화하고, 각종 정보를 찾아주는 GPT 같은 ‘거대언어모델(LLM) AI’를 배터리 걱정 없이 스마트폰 등을 통해 장시간 사용할 기반이 마련될 것이라는 전망이 나온다.

과학기술정보통신부는 6일 유회준 카이스트(KAIST) 전기 및 전자공학부 교수가 이끄는 연구진이 정보 처리 속도는 유지하면서도 전기 소모량은 크게 줄인 AI 탑재용 반도체를 개발했다고 밝혔다. 연구진은 이 반도체에 ‘상보형-트랜스포머’라는 이름을 붙였다. 연구결과는 지난달 19~23일 미국 샌프란시스코에서 개최된 국제고체회로설계학회(ISSCC)에서 발표·시연됐다.

연구진은 이번에 개발한 AI 반도체 전력 소모량이 현재 LLM 작동에 사용되는 그래픽처리장치(GPU)인 엔비디아 A100 대비 625분의 1에 불과하다고 밝혔다. 이번 AI 반도체로 LLM의 일종인 GPT-2를 작동시켰더니 언어 생성 속도도 0.4초로 매우 빨라 사용에 불편함이 없었다.

연구진이 이런 초저전력 기술을 만들 수 있었던 것은 AI를 돌리는 기술 두 가지의 특징에 집중했기 때문이다. AI 작동 기술 중 하나는 ‘스파이킹 뉴럴 네트워크(SNN)’이다. SNN은 실시간 정보처리에 유리하다. 전기도 적게 먹는다. 하지만 복잡한 정보를 처리하는 능력은 약하다.

또 다른 기술은 ‘심층 인공 신경망(DNN)’이다. DNN은 이미지 인식과 비디오 정보 분석 같은 고난도 정보처리가 가능하다. 하지만 전기를 많이 쓴다.

연구진은 이 두 가지 AI 작동 방식을 합쳤다. 데이터 크기를 평가해 SNN으로 넘길지, DNN으로 넘길지를 재빨리 판단하는 작동 체계를 고안했다. 크기가 작아 가볍게 처리할 수 있는 데이터는 SNN에, 크기가 커 복잡한 분석을 해야 하는 데이터는 DNN으로 분배했다.

한마디로 1t 트럭이면 가능할 작은 이삿짐을 옮기는데, 5t 트럭을 부르는 일을 지양할 수 있는 방법을 개발한 것이다. 5t 트럭은 움직임도 둔하고, 기름도 많이 먹기 때문에 짐이 적다면 1t 트럭으로 대응하는 것이 좋다. 이삿짐 트럭을 선택하듯 AI 작동 방식도 선택한 것이다. 연구진은 해당 반도체를 삼성전자 28나노 공정을 통해 제작했다고 밝혔다.

연구진은 이번 기술이 스마트폰 등 전자기기 내에 들어가는 ‘온디바이스 AI’ 사용을 확대하는 계기가 될 것으로 기대했다. AI 사용에 따른 배터리 소모량을 줄일 수 있어서다.

논문의 제1저자인 김상엽 카이스트 전기 및 전자공학부 박사는 “현재 일부 최신 스마트폰에서는 AI를 사용해 실시간 번역 기능을 제공한다”며 “이번 연구 결과를 적용하면 이 같은 기능들을 훨씬 더 장시간 쓸 수 있게 될 것”이라고 밝혔다.

이정호 기자

https://www.khan.co.kr/science/science-general/article/202403061200041