AI 인프라

구글이 던진 분산 AI 카드, 어디까지 검증됐나 — 디커플드 딜로코가 반도체 제조사에 미칠 영향

작성자:
구글이 던진 분산 AI 카드,디커플드 딜로코

구글 딥마인드가 4월 23일 공개한 “디커플드 딜로코(Decoupled DiLoCo)”가 일주일이 지나서야 그 의미가 분명해지고 있습니다. 한국 매체에서는 5월 2일 아시아경제가 처음으로 자세히 다뤘는데요. 핵심 한 줄은 이렇습니다. AI 학습에 필요한 데이터센터 간 통신 대역폭을 198 Gbps에서 0.84 Gbps로 줄였다는 것. 약 235배 감소입니다. 만약 이 기술이 실제 프론티어 모델 학습에 적용된다면, “AI 인프라 = 엔비디아 GPU … 더 읽기

AI 메모리 6분의 1로 줄일수 있다는 ‘터보퀀트’ – 반도체 위기인가,기회인가?

작성자:
AI 메모리 6분의 1로 줄일수 있다는 '터보퀀트' - 반도체 위기인가,기회인가?

논문 하나에 삼성전자 주가가 4.71% 빠진 날 3월 26일, 삼성전자 주가가 하루 만에 4.71% 내려앉았다. SK하이닉스는 6.23%, 미국 마이크론은 6.97%, 샌디스크는 무려 11%가 빠졌다. 이틀 새 삼성전자·SK하이닉스·한미반도체 시가총액에서 사라진 돈이 109조 원이다. 무슨 일이 있었을까. 방아쇠를 당긴 건 구글 리서치가 올린 블로그 포스트 하나였다. ‘터보퀀트’가 뭔데 이 난리인가 터보퀀트(TurboQuant)는 AI가 대화할 때 쓰는 임시 메모리를 … 더 읽기