SK하이닉스가 미국 반도체 스타트업 테트라멤과 함께 인메모리컴퓨팅 기술을 검증했습니다. 이 기술은 메모리 안에서 직접 연산을 수행하여 AI 반도체의 전력 효율을 높이는 것으로 주목받고 있습니다.
SK하이닉스와 테트라멤은 깊이별 컨볼루션을 갖춘 멤리스터 기반 인메모리 컴퓨팅 SoC에 대한 논문을 국제 학술지에 게재했습니다. 이 논문은 메모리 소자 기반 연산 구조를 실제 SoC로 구현하고, AI 추론 작업에서 성능과 효율을 검증한 내용을 담고 있습니다.
이 기술은 기존의 데이터 이동 구조를 개선하여 AI 모델의 전력 소모와 지연을 줄이는 방식으로, HBM과는 다른 새로운 접근 방식을 제시합니다. 깊이별 컨볼루션 연산을 하드웨어에서 효율적으로 구현하는 것이 이번 연구의 주요 성과입니다.
이번 SoC는 65나노 금속산화막반도체(CMOS) 공정을 기반으로 제작되었으며, 100MHz 동작 조건에서 21.3TOPS/W의 에너지 효율을 보였습니다. 또한, 특정 모델을 구동하여 80.36%의 추론 정확도를 달성했는데, 이는 4비트 정밀도로 양자화한 동일 모델과 비슷한 수준입니다.
SK하이닉스는 이번 프로젝트에서 메모리 소자와 공정 기술을 바탕으로 칩 구현에 기여했으며, 테트라멤은 회로와 연산 구조 설계를 맡았습니다. 테트라멤은 멤리스터 등 차세대 메모리 소자를 활용한 AI 연산 효율 개선 기술을 연구하는 미국 스타트업으로, 2018년에 설립되었습니다.
SK하이닉스 부사장인 김수길은 이번 프로젝트를 통해 혁신적인 메모리 기술과 새로운 컴퓨팅 아키텍처를 탐구한 가치를 강조하며, 테트라멤과의 기술 교류를 희망한다고 밝혔습니다.