엔비디아, 차세대 반도체 B200 공개

엔비디아, 차세대 반도체 B200 공개

 

엔비디아가 또 엄청난 짓을 저질렀습니다.

거의 슈퍼컴퓨터에 맞먹는 능력의 컴퓨터를 개인이 소유할 수도 있는 시대를 엔비디아가 가져올 듯하네요.

그럼 이 엄청난 소식을 한번 보도록 하죠.

 

엔비디아, 차세대 반도체 B200 공개

인공지능(AI) 반도체 분야의 선두주자인 엔비디아가 현지 시간으로 18일 미국에서 매년 열리는 'GTC(GPU Technology Conference) 2024'를 개최하며 새로운 AI 반도체인 '블랙웰'을 소개했습니다.

 

이날 SAP센터에서 열린 기조연설에서 젠슨 황 CEO는 "현재 가속 컴퓨팅이 임계점에 도달했다"며 "우리는 더 많은 컴퓨팅을 사용할 수 있게 되었고, 그 효과는 매우 클 것"이라고 강조했습니다.

그는 데이터센터, 엔터프라이즈IT, AI팩토리, AI코파일럿 등 다양한 영역에 AI를 적용함으로써 100조 달러 규모의 산업이 창출될 것이라고 설명했습니다.

 

젠슨 황 CEO는 새로 공개된 '블랙웰 플랫폼'과 그에 포함된 B200 반도체의 성능에 대해 설명하며, 기존 모델인 H100 GPU에 비해 훨씬 뛰어난 성능 향상을 강조했습니다.

매개변수 1조 8000억 개의 GPT 모델을 90일 동안 AI 학습에 사용한다고 가정했을 때, 기존의 호퍼 플랫폼에서 H100이 탑재된 경우 8000개의 GPU로 15메가와트의 전력이 필요했지만, 블랙웰 플랫폼에서는 2000개의 GPU로 4메가와트의 전력만 사용하므로 전체 소비 전력이 4분의 1 이상 줄어든다고 설명했습니다.

이는 성능이 크게 향상됨을 의미합니다.

 

가격은 공개되지 않았으나, H100의 가격이 개당 최대 4만 달러임을 고려하면 B200은 5만 달러 수준이 될 것으로 업계에서는 예상하고 있습니다.

 

황 CEO는 '추론' 작업에서 블랙웰이 훨씬 뛰어난 성능을 보여준다고 강조했습니다. 데이터센터 GPU에서 텍스트를 생성하는 챗GPT나 이미지를 생성하는 미드저니 같은 학습이 완료된 AI 모델로 '추론' 작업이 이루어지는데, 블랙웰 호퍼(GB200)는 기존 H200보다 종합적인 성능이 30배 개선되었다고 설명했습니다.

 

블랙웰의 이름은 게임 이론과 통계학을 전공한 수학자이자, 흑인으로는 최초로 미국국립과학원에 입성한 데이비드 블랙웰을 기리기 위해 지어졌습니다.

 

젠슨 황 CEO는 엔비디아가 단순한 '반도체'를 넘어 '컴퓨팅 플랫폼'으로, 그리고 '서비스' 회사로 진화하고 있음을 강조했습니다. 신형 B200 GPU 두 개와 그레이스 CPU, 반도체를 연결하는 NV링크, 케이블 등이 결합해 슈퍼컴퓨터를 만든다고 합니다.

 

AI팩토리

엔비디아가 만들고자 하는 AI 데이터센터에는 32,000개의 GPU가 포함될 예정이며, 이를 'AI팩토리'라고 칭했습니다.

 

젠슨 황 CEO는 엔비디아가 이제 단순히 반도체를 판매하는 회사가 아니라, AI에 특화된 컴퓨터를 제작한다고 강조했습니다.

그는 엔비디아의 모든 기술이 통합된 DGX GB200 NVL72 컴퓨터를 '하나의 거대한 GPU'로 묘사하며, 데이터센터 전체의 성능을 향상시켜야만 AI 학습과 추론에 소요되는 컴퓨팅 비용을 절감할 수 있다고 주장했습니다.

 

엔비디아가 데이터센터에 더욱 집중하는 것에 대해, GTC에 참석한 한 전문가는 엔비디아도 칩 설계에서 물리학적 한계를 느끼고 있으며, 과거 반도체만을 고집했던 엔비디아가 B200에서 이런 선택을 한 것이 아쉽다고 평가했습니다.

 

젠슨 황 CEO는 엔비디아 추론 마이크로서비스(NIM)라는, 추론 전용 클라우드 서비스도 소개했습니다. 이 서비스를 통해 다양한 AI 모델을 제공할 예정입니다.

 

엔비디아의 주요 고객인 AWS, 마이크로소프트 애저, 구글 클라우드 등이 자체 AI 반도체 개발로 방향을 전환함에 따라, 엔비디아도 최종 사용자에게 실제 클라우드 서비스를 제공하는 전략을 채택한 것으로 보입니다.

 

기조연설에서는 로보틱스 분야에 대한 설명도 이어졌습니다. 황 CEO는 기존의 '디지털 트윈' 인프라에 '아이작 로보틱스' 플랫폼을 추가하여, 디지털 트윈에서 학습된 로봇을 현실 세계에 적용하는 모델을 소개했습니다.

그는 미래에 로봇이 인식을 통한 학습으로 프로그래밍되어, 더 쉬워질 것이라고 전망했습니다.

이와 함께, 다양한 기업들과의 파트너십도 발표되었습니다. 예를 들어, 애플 비전 프로 헤드셋이 옴니버스 디지털 트윈 플랫폼에서 사용될 예정이며, 지멘스와 협력하여 구축되는 산업용 옴니버스에서는 HD현대의 LNG 운반선이 사례로 소개되었습니다.

 

*다른 흥미로운 포스팅이 궁금하시면 여기를 클릭해 주세요^^

외이도염에 대해서, 그리고 외이도염 연고 사용법