xAI는 10월 14일 호스팅형 Voice Agent API를 통해 Grok Voice 3.0을 출시했다. 고객 지원용 음성 에이전트를 고르는 팀에 Artificial Analysis의 현재 음성 대 음성 평가표는 Grok Voice 2.0 대비 모의 지원 과제 점수가 15.1%포인트 높아졌고, 별도의 과제 성공 지표는 소폭 변했으며 첫 음성 응답은 느려졌음을 보여준다.

xAI에 따르면 grok-voice-latest 별칭은 이제 자동으로 3.0으로 연결된다. 현재 API 가이드는 버전을 고정해야 하는 팀을 위해 버전이 명시된 grok-voice-3.0 이름도 제공한다. xAI에 따르면 WebSocket 엔드포인트, 세션 매개변수, 이벤트는 2.0과 동일하다. 별칭 사용자에게 애플리케이션 마이그레이션은 필요 없지만, 변경 가능한 별칭 뒤의 모델이 바뀌면 해당 애플리케이션의 자체 통화 테스트를 다시 실행할 이유가 된다.

큰 변화

  • 달라진 점: Grok Voice 3.0이 API 별칭 grok-voice-latest 뒤에서 2.0을 대체했다. Artificial Analysis의 모의 고객 지원 벤치마크 점수는 2.0의 56.5%에서 현재 71.6%로 상승했다.
  • 중요한 이유: 이 지표는 항공, 소매, 통신 분야의 정해진 시나리오 문제에서 에이전트가 올바른 데이터베이스 상태에 도달하는지 시험한다. 여전히 모의 평가이지만 일반적인 오디오 추론 점수보다 고객 지원 업무 흐름과 관련성이 높다.
  • 살펴볼 점: 같은 평가기관이 측정한 첫 음성까지의 시간은 3.0이 0.81초, 2.0이 0.70초였다. 팀은 고정 버전 배포를 변경하기 전에 자체 응답 시간, 과제 완료 여부, 과금 대상 세션 길이를 확인해야 한다.

고객 지원 점수와 응답 지연

Artificial Analysis의 방법론은 τ-Voice를 정책 문서와 분야별 도구를 갖춘 에이전트에게 모의 고객이 전화하는 테스트로 설명한다. 항공, 소매, 통신 과제마다 정해진 최종 데이터베이스 상태가 있고, 점수는 세 번의 시행을 평균한 것이다. 현재 평가표의 Grok Voice 3.0 점수는 71.6%로 Grok Voice 2.0의 56.5%보다 높다. 해당 테스트 조건에서 15.1%포인트 상승한 셈이다. 평가에는 모의 고객, 생성된 음성, 전사, 채점용 모델이 사용된다. 배포된 서비스가 실제 전화 고객의 문제를 해결하는 비율을 측정하는 것은 아니다.

별도의 Speech Agent Arena 과제 성공률은 2.0의 94.6%에서 3.0의 94.8%로 소폭 상승했다. 이 수치는 최종적으로 과제를 완료하는 올바른 도구 호출이 포함된 적격 대화를 집계하며, τ-Voice와 다른 테스트를 사용한다. Artificial Analysis 종합 지수는 81.3에서 86.9로 올랐다. 현재 버전은 오디오 추론, τ-Voice, 발신자 블라인드 선호도, Arena 과제 성공에 같은 가중치를 부여한다. 어느 수치도 단독으로 모든 고객 서비스 과제에서의 개선을 입증하지 않는다.

속도와 관련해 Artificial Analysis는 Big Bench Audio 질문에서 첫 음성까지 걸린 평균 시간을 보고한다. Grok Voice 3.0은 0.81초, 2.0은 0.70초다. 따라서 새 모델은 해당 테스트에서 말하기 시작하는 데 0.11초 더 걸렸다. xAI가 출시 발표에서 지연 시간을 ‘1초 미만’이라고 설명했음에도 그렇다. 측정은 첫 음성 출력에서 끝나며, 전체 통화 지연이나 문제 해결 시간을 측정한 것이 아니다.

공시된 음성 요금에 포함되는 항목

xAI가 공시한 두 버전의 음성 대 음성 오디오 요금은 모두 분당 0.08달러, 시간당 4.80달러다. 모델 요금 페이지에는 과금 대상 conversation.item.create 텍스트 이벤트마다 0.004달러가 추가된다. 기본 server_vad 발화 차례 감지를 사용하면 오디오 계량은 세션 시간을 기준으로 한다. 눌러서 말하기에서는 송수신한 오디오를 센다. 따라서 공시된 시간 기준 요율로 10분 동안 계속 열린 세션의 오디오 요금은 0.80달러이며, 별도 텍스트 이벤트 요금은 포함되지 않는다. 이 계산은 xAI 요금표를 근거로 하며, BIG CHANGE의 청구서나 실제로 시험한 통화에 따른 것이 아니다.

개발자는 서버 측 WebSocket 연결에 xAI API 키를 사용하거나 클라이언트 애플리케이션에 단기 토큰을 사용해야 한다. API 가이드에는 wss://api.x.ai/v1/realtime, model 쿼리 매개변수, 지시 사항·음성·발화 차례 감지를 위한 session.update 이벤트, 응답으로 스트리밍되는 오디오 이벤트가 설명되어 있다. xAI는 팀당 동시 세션을 10개로, 세션 최대 길이를 120분으로 명시한다. 고객 지원 팀은 여전히 자체 정책, 도구, 고객 데이터 사용 경계, 상위 담당자 이관 절차를 제공해야 한다. 공개된 벤치마크 구성만으로 특정 구현의 성능을 알 수는 없다.

xAI는 Starlink가 Grok Voice로 하루 20,000통을 처리하며 약 70%를 사람 없이 해결한다고도 밝힌다. 이는 회사가 보고한 운영 수치이며 Artificial Analysis의 합성 테스트가 이를 검증하지는 않는다. BIG CHANGE는 출시 자료와 API 및 벤치마크 문서를 검토했다. API를 사용하거나 고객 지원 에이전트에게 전화를 걸거나 평가를 재현하지 않았다.

출처와 더 읽을거리