Mercury 3 - 텍스트를 병렬로 생성하는 대규모 확산 기반 LLM
- Inception이 여러 위치의 텍스트를 병렬로 다듬어 생성하는 확산 기반 언어 모델 Mercury 3 공개. 토큰을 하나씩 생성하는 일반적인 LLM과 다른 방식으로 빠른 응답을 구현
- 첫 모델보다 총 파라미터를 40배 이상 늘리고도 속도를 유지하며 복잡한 작업의 성능을 개선. 회사의 medium 추론 설정 비교에서 GPT-6 Luna와 Claude Haiku 5.5를 여러 평가에서 앞섬
- 회사 측정 기준 NVIDIA GPU에서 초당 1,068토큰을 출력, 비교 모델보다 약 4~8배 빠름. 100만 토큰 컨텍스트를 지원해 긴 문서와 대화 처리에도 활용 가능
- 사전…
https://news.hada.io/topic?id=35658
Mercury 3 - 텍스트를 병렬로 생성하는 대규모 확산 기반 LLM - Inception이 여러 위치의 텍스트를 병렬로 다듬어 생성하는 확산 기반 언어 모델 Mercury 3
GeekNews
@GeekNewsHadaGeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly
2,425 subscribers
Open in Telegram