오늘 기술 블로그를 찾아보다가 Virtualization -> AWS Nitro -> Annapurna Labs 흐름으로 좀 찾아보게 되었다.
https://cseweb.ucsd.edu/~yiying/cse291-winter24/reading/
Reading and Schedule - CSE 291 Virtualization and Cloud Computing
cseweb.ucsd.edu
위 자료는 굉장히 좋은 자료다.
위 강의에서 제공하는 Slide가 있는데 참 좋은 내용이 들어있어서 링크 첨부한다.
https://cseweb.ucsd.edu/~yiying/cse291-winter24/reading/Overview.pdf
보다보니 AWS Nitro System에 대해 보게 되었고 AWS Annapurna Labs까지 보게 되었다.
AWS Nitro System은 최신 EC2 핵심 기술이고 매우 얇은 Hypervisor를 통해서 베어메탈 성능을 전혀 손해 없이 쓸 수 있게 하는 핵심 기술이라고 한다.
Chip에 대해 꽤나 흥미롭게 설명한 재미난 포스팅이 있으니 참고하면 좋다.
https://www.aboutamazon.com/stories/ai-chips-aws-Trainium2-explain
A city in the palm of your hand: Exploring the intricate world of an Amazon Web Services chip
Tour the micro metropolis where calculations run 24/7 and data commutes at light speed.
www.aboutamazon.com
AWS가 무려 2015년 부터 자체 Sillicon Chip 제작을 적극 진행하고 있었다는 점이 참 놀랍다.
AWS 서비스를 만들 때 end-to-end를 모두 담당하고 이를 위해 극도의 최적화를 이뤄내기 위함이라고 하고, 참 흥미로운건 Annapurna Labs에서는 Chip을 설계하고 이후에 소프트웨어를 설계하는게 아니라, 이미 존재하는 Software 요구사항에 맞추어서 Chip을 디자인하는 반전된 개발 Flow를 채택하고 있다고 한다. AWS 사이즈 정도되는 벤더에서만 가능한 방식으로 보인다. 거대한 사이즈의 Data center를 이미 운영 중이고 수많은 Cloud서비스를 이용하고 있으니 이를 최적화하기 위한 Chip을 설계하는 방식이 가능한 거다.
다른 회사였으면 Chip을 설계하고 이를 "고객"에게 판매하는 형식이었을 텐데 확실히 AWS가 규모 면에서나 기술 면에서나 압도적으로 뛰어난 회사라는 생각이 든다.
아 참고로 AWS Nitro System에 들어가는 Chip도 Annapurna Labs에서 만들었다. 그리고 유명한 EC2 Graviton도 거기서 만들었다.
Interentia & Trainium이라는 칩도 있는데 이건 나중에 좀 더 찾아볼 예정이다.