Kolibri - 독일의 소버린 AI 모델은 어떻게 작동하는가
- Aleph Alpha가 독일·핀란드 인프라에서 처음부터 학습한 독일어·영어 모델로, 가중치를 Apache-2.0으로 공개해 조직이 자체 서버에서 데이터와 모델 운영을 통제할 수 있음
- 전문가 혼합(MoE) 구조로 전체 781억 파라미터 중 토큰당 약 35억만 사용해 연산량을 줄이며, 독일어 질문에는 독일어로 추론하도록 학습함
- 독일어 복합어에 맞춘 UniBPE 토크나이저로 텍스트를 덜 잘게 나눔. 독일 기본법 전체를 처리한 실험에서는 GPT-5 토크나이저보다 약 15% 적은 토큰을 사용함
- 최대 약 100만 토큰의 긴 문맥을 처리하며, 문…
https://news.hada.io/topic?id=34716
Kolibri - 독일의 소버린 AI 모델은 어떻게 작동하는가 - Aleph Alpha가 독일·핀란드 인프라에서 처음부터 학습한 독일어·영어 모델로, 가중치를 Apache-2.
GeekNews
@GeekNewsHadaGeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly
2,372 مشتركًا
فتح في تيليجرام