Cohere의 추론은 기업 추론 작업을위한 고급 모델입니다.개인 배포를 위해 설계된이 제품은 단일 H100에서 실행하면서 GPT-SOSS-120B와 같은 모델을 능가합니다.사용자 제어 토큰 예산을 통해 성능과 비용의 균형을 잡을 수 있습니다.
