ChatGPT를 위한 고성능 메모리 현황 및 전망
[Abstract]
ChatGPT와 같은 LLM(Large Language Model)을 활용하는 AI Network은 high bandwidth, high capacity 메모리를 요구하게 됩니다. 본 발표에서는 ChatGPT가 요구하는 메모리 사양에 대해서 알아보고, 이를 위한 메모리 Solution들에 대해서 살펴봅니다. 가장 대표적인 HBM DRAM부터, 미래 Memory solution인 LLC DRAM과 CXL DRAM을 포함해서, 요구사항을 좀 더 적극적으로 해결하고자 하는 PIM/PNM Solution까지 논의합니다.
손교민 마스터, 삼성전자
[Education]
-
- 2007 KAIST EECS 박사
- 1996 연세대학교 전기공학 석사
- 1994 연세대학교 전기공학 학사
[Career]
-
- 2018~ 삼성전자 DRAM설계팀 Master (VP of Technology)
- 2007~2017 삼성전자 DRAM설계팀 DDR4/HBM DRAM 개발
- 1996~2003 삼성전자 SRAM설계팀 Sync SRAM 개발
[Research Interest]
-
- 5D/3D Memory (HBM DRAM, Chiplet Memory)
- Processing-in-Memory (HBM-PIM, LPDDR-PIM)
- Reliable Memory Design (ECC, RAS)
- Future Architecture and Circuit Technology for DRAM