Amazon, Sonnet 4.6을 Strands Decider로 대체해 수백만 달러 절감
- 아마존이 대규모 내부 티켓 분류에 쓰던 클로드 Sonnet 4.6을 Strands Decider E4B로 교체. 티켓 100만 건당 약 22,200달러에서 500달러로 98% 줄어, 연간 수백만 달러를 절감 예상
- 의사결정 모델은 텍스트를 생성하는 대신 주어진 선택지별 확률과 신뢰도를 반환하므로, 정해진 20개 범주에서 티켓 라벨을 고르는 작업에 적합했음
- 별도 티켓 평가에서 E4B가 운영 중인 Sonnet보다 좋은 결과를 보였고, 실제 비교에서 평균 호출 시간은 78%, 티켓당 총 토큰 수는 70% 감소함
- 실제 트래픽에서 두 모델을 병렬 실행하되 S…
https://news.hada.io/topic?id=36935
Amazon, Sonnet 4.
GeekNews
@GeekNewsHadaGeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly
2 468 підписників
Відкрити в Telegram