김주영 대표(교수)
하이퍼엑셀(KAIST)
생성 AI 반도체 개발 및 플랫폼 파운데이션
[Abstract]
ChatGPT로 촉발된 거대 생성형 AI는 인터넷의 대규모 데이터를 자가 학습하여 인간과 비슷한 수준의 인지 능력을 보여주며 있으며, 텍스트/이미지/스피치/코딩 등 다양한 분야에서 기술 혁신을 주도하고 있다. 2023년 1월 설립된 하이퍼엑셀은 거대 인공지능 모델 GPT의 전과정 수행이 가능한 가속 반도체인 Latency Processing Unit(LPU)을 개발하였으며, LPU는 고대역폭 메모리(HBM) BW 최대 활용, 실시간 토큰 생성 로직, 모델 병렬화, 커스텀 P2P 네트워킹을 통하여 거대 모델 연산 시간을 획기적으로 단축하였다. 본 발표에서는 LPU 가속기를 다수개 집적한 하이퍼엑셀의 서버 솔루션과 향후 반도체 개발에 대하여 설명하고, 급성장하고 있는 생성 AI의 산업 생태계 조성을 위한 플랫폼 파운데이션에 대하여 발제한다.
김주영 대표(교수), 하이퍼엑셀(KAIST)
[Education]
- 2010.1 KAIST 전기및전자공학 박사
- 2007.2 KAIST 전기및전자공학 석사
- 2005.2 KAIST 전기및전자공학 학사
[Career]
- 2023.1 – 현재: (주)하이퍼엑셀 대표이사
- 2019.9 – 현재: KAIST 전기및전자공학부 조교수/부교수
- 2020.9 – 현재: 인공지능반도체시스템 연구센터 센터장
- 2017.11 – 2019.8: Microsoft Azure 책임엔지니어 (Redmond, USA)
- 2014.2 – 2017.10: Microsoft Research 책임연구원 (Redmond, USA)
- 2012.2 – 2014.1: Microsoft Research 연구원 (Redmond, USA)
- 2010.9 – 2011.8: Microsoft Research 방문연구원 (Redmond, USA)
[Research Interest]
- 인공지능, 프로세싱-인-메모리 칩 설계
- 컴퓨터 구조
- FPGA
- 하드웨어/소프트웨어 코디자인