왜 AI는 GPU를 ‘연결’하는가 : 1개의 GPU로는 부족한 이유
AI 모델은 왜 GPU 하나에 담기지 않을까 GPU는 왜 ‘혼자’ 일하지 않는가 AI 관련 글을 보다 보면 대부분 이렇게 말한다.“더 빠른 GPU가 필요하다.” 그런데 AI 인프라 구조를 조금만 깊게 들여다보면,생각이 완전히 달라진다. 오늘날 AI 데이터센터의 실제 성능을 결정하는 것은GPU 하나의 연산 능력이 아니라,GPU들이 얼마나 잘 연결되어 있느냐다. GPU 성능은 남아도는데연산 속도가 기대만큼 나오지 않는 경우가 … 더 읽기