세레브라스 시스템즈 CBRS / HBM 없는 추론 장

손에 들고 있는게 칩1개 라는거 같은데 ... 왜이케 크냐

 

제품은 

일반적인 반도체 뒷면에 다리가 달린 형태가 아니고

1.2 TB/s 짜리 이더넷 컨넥터가 붙는다고 합니다.

24kW 소비전력

냉각수용 파이프도 있다고 합니다.

제품은 PCIe 카드 형태로 만들어지는거 같습니다.
보드에 이런걸 왕창 꽂아서 확장할 수 있나봅니다.

있을껀 다 갖춘 형태군요
(이러면 유리기판도 필요 없는 것인가...)

 

 

젠슨황의 칩보다 훨씬 크군요

 

소개 영상 - https://www.youtube.com/watch?v=f4Dly8I8lMY

 

 

 

요약

HBM 이 없다.

HBM 은 너무 비싸며 불량 날 확율이 높은 부품입니다.
이런 부품이 없다면 생산성이 높아지겠습니다.

SRAM 사용

HBM 대신 SRAM 을 사용하는데 이것은 TSMC 내부에서 만들어 낼 수 있습니다.

외부 부품이 줄면 그만큼 생산 속도와 불량율 에서 이점이 있을 것 같습니다.

추론속도가 빠르다.

nvidia 의 10배 라는데 극단적으로 어려운 문제에서 나온 결과 같습니다.

220 초 걸리는 문제를 20초에 결과가 나왔다는군요

 

영상: https://www.youtube.com/watch?v=99QSJejlPxI

 

현재 반도체 쪽이 힌들리고 있구요

 

버리는 계속 숏쳤다고 자랑중인 상황입니다.

반도체 업계 내부에서도 쇼티지를 해결하려는 움직임이 보이고

 

빅테크들도 램 값 협상이 어려워지자

서로 좋았던 이 시장을 파괴하기 시작하는 군요

 

저는 광통신 ETF 사고 있는데 이것도 같이 빠지고 있어서 세레브라스 문제가 아닌거 같긴한데 ...