엔비디아 VS 다른 진영 간단요약

 
엔비디아가 GPU 만드는줄 아시는데
 
실제론 AI 전용 GPU를 만들고 이건 GPU랑 큰 상관이 없습니다
 
구글 TPU나 엔비디아 GPU나 병렬 행렬 연산 코어만 엄청나게 때려박은 비슷한 모습입니다, GPU식 연산 부분은 조금만 남아 있습니다
 
 
현재 이런 AI 연산 코어 (텐서코어, 쿠다코어) 대비
 
디램이 엄청나게 병목 현상을 일으키고 있어서 HBM이라고 코어 옆에 수직으로 램을 쌓았습니다
 
병목을 조금이라도 줄이는게 속도의 비결이고, 엔비디아는 이걸 제일 잘합니다
 
대규모 병렬 연산시 지연을 줄이는 NVLINK니 infiniBAND니 모두 이런 기술입니다
 
 
근데 블랙웰 만들면서는 더이상 칩자체의 밀도나 사이즈 증가가 어려워서 두개 칩을 붙여서 만들어내죠
 
생산 공정상, 그리고 대역폭상 처리능력상 한계에 이르렀기에 그냥 두 칩을 붙인겁니다
 
 
엔비디아의 설계 능력, 그리고 공정 능력도 한계에 이르렀기에 붙였다고 봐야죠
 
그러면 엔비디아가 이게 끝이냐? 아니죠.... 여전히 병목을 줄이고 병목을 해결하는게 엔비디아의 핵심 기술이거든요
 
 
그래서 다른 진영은 엔비디아처럼 병목을 줄이는 기술을 연구중입니다
 
UALINK를 결성해 병목을 줄이는 기술을 연구중인데 아직 초기 단계일 뿐이죠
 
 
이것만 문제냐 그게 아니죠
 
GPU 그리고 텐서, 쿠다코어 자체가 발열과 전력소모가 엄청납니다
 
이대로 AI가 완성되서 전세계에 배포할수 있냐? 가격, 발열, 전력소모때문에 안되죠
 
 
또 다른 반도체가 저렴하게 그리고 저전력으로 작동해야 비로소 AI가 완성되겠죠
 
 
현업에 있는 사람도 발전 방향을 알수가 없는 세곕니다
 
어찌됐든 내년까지는 엔비디아가 무조건 지배한다고 보심되고
 
병목과 지연을 해결하는 기술은 엔비디아가 원탑, 그리고 타 진영도 따라올수 있는지 지켜보심 되는깁니다
 
거기에다 GPU랑 텐서 쿠다코어를 대체할 저전력 AI 반도체가 나오느냐도 중요한 이슈죠