구글·엔비디아가 ‘광 스위치’에 베팅한 이유
AI 데이터센터가 커질수록 수많은 GPU 사이에서 데이터를 주고받는 ‘전화국’, 즉 네트워크 스위치가 전기를 너무 많이 먹게 됩니다. 구글은 이미 전기 스위치 일부를, 거울로 빛을 직접 연결하는 광 스위치로 바꿔 전력과 비용을 크게 줄였습니다. 하지만 이 장비는 크고 비싸며 정밀 조립이 필요해 구글 외에는 쓰기…

하이젠버그
하이젠버그 앱에서 열기
AI 데이터센터가 커질수록 수많은 GPU 사이에서 데이터를 주고받는 ‘전화국’, 즉 네트워크 스위치가 전기를 너무 많이 먹게 됩니다. 구글은 이미 전기 스위치 일부를, 거울로 빛을 직접 연결하는 광 스위치로 바꿔 전력과 비용을 크게 줄였습니다. 하지만 이 장비는 크고 비싸며 정밀 조립이 필요해 구글 외에는 쓰기…

아무리 비싼 GPU를 써도 계산에 필요한 데이터를 제때 가져오지 못하면 GPU는 그대로 놀게 됩니다. AI 모델이 커지면서 모든 데이터를 빠른 HBM에 담을 수 없게 됐고, 그래서 SSD의 역할이 점점 중요해지고 있습니다. 삼성전자는 SSD 안에서 일부 데이터를 먼저 처리해 GPU까지 옮겨야 할 양을 줄이려 합니다.…

제가 처음 하이젠버그에 핵융합 글을 쓴 지도 벌써 1년이 넘었습니다. 그 사이 핵융합 업계에서는 정말 많은 일이 벌어졌고, 예전에 쓴 글에 새로 추가해야 할 내용도 많아졌습니다.
