Google, 8세대 TPU에 기밀 추론용 8tx와 긴 컨텍스트용 8i Max 추가
- Google이 8세대 TPU에 TPU 8tx와 TPU 8i Max를 추가해, 대규모 학습부터 저지연 추론, 기밀 컴퓨팅, 대규모 컨텍스트까지 담당하는 네 가지 시스템을 구성함
- 기존 TPU 칩을 바탕으로 패키징, 메모리, 네트워크, 보안 구성을 바꿔 용도별 시스템을 만듦. Google은 이 방식으로 특화 시스템을 수년 대신 수개월 안에 내놓을 수 있다고 봄
- TPU 8tx는 사용 중인 민감 데이터와 모델 가중치까지 하드웨어 수준에서 보호하며, TPU 8t 대비 지연 시간을 최대 절반으로 줄이고 같은 시스템에서 비공개 미세 조정과 에이전트 실행을 지원함 …
https://news.hada.io/topic?id=36918
Google, 8세대 TPU에 기밀 추론용 8tx와 긴 컨텍스트용 8i Max 추가 - Google이 8세대 TPU에 TPU 8tx와 TPU 8i Max를 추가해, 대규모 학습부터
GeekNews
@GeekNewsHadaGeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly
2,468 מנויים
פתח בטלגרם