**Kolibri - 독일의 소버린 AI 모델은 어떻게 작동하는가**

- Aleph Alpha가 독일·핀란드 인프라에서 처음부터 학습한 독일어·영어 모델로, 가중치를 Apache-2.0으로 공개해 조직이 자체 서버에서 데이터와 모델 운영을 통제할 수 있음  
- 전문가 혼합(MoE) 구조로 전체 781억 파라미터 중 토큰당 약 35억만 사용해 연산량을 줄이며, 독일어 질문에는 독일어로 추론하도록 학습함  
- 독일어 복합어에 맞춘 UniBPE 토크나이저로 텍스트를 덜 잘게 나눔. 독일 기본법 전체를 처리한 실험에서는 GPT-5 토크나이저보다 약 15% 적은 토큰을 사용함  
- 최대 약 100만 토큰의 긴 문맥을 처리하며, 문…

[https://news.hada.io/topic?id=34716](https://news.hada.io/topic?id=34716)