**더 나은, 더 효율적인 RAG를 위한 빠른 검색**

- Apple 연구진이 고정된 벡터 데이터베이스와 실제 질의 분포를 바탕으로 작은 신경망을 미리 학습해 최대 내적 검색(MIPS) 의 추론 속도와 정확도를 높이는 방법을 개발함
- 기존 중심점 기반 검색은 클러스터 내부의 최적 키를 놓칠 수 있음. SupportNet은 클러스터별 최상의 일치 점수를 예측해 질의를 더 적합한 클러스터로 보냄
- KeyNet은 질의를 최적 키에 가까운 벡터로 변환해 기존 IVF 인덱스에 전달함. Natural Questions 실험에서 대형 모델은 질의 변환 시간을 포함해 99% 재현율에 도달하는 시간을 최대 약 8배 단축함
- …

[https://news.hada.io/topic?id=37031](https://news.hada.io/topic?id=37031)