PRODUCT UPDATE (제품 업데이트)
xAI API '컨텍스트 압축'·웹소켓 모드·이미지 검색
xAI가 API에 에이전트용 기능 세 가지를 잇달아 넣었습니다. 길어진 대화를 하나의 압축 항목으로 줄여 다음 요청에 쓰는 'Context Compaction API', 하나의 웹소켓 연결로 Responses API를 쓰는 'WebSocket 모드', 웹 검색에서 이미지를 직접 찾는 기능입니다. 모두 오래 도는 에이전트의 비용과 지연을 줄이려는 기능으로, OpenAI·Anthropic이 먼저 내놓은 기능을 xAI도 갖춰 가는 흐름입니다.
핵심 사실 · 한눈에 보기
- 5월 29일 xAI 개발자 문서에 Context Compaction API와 WebSocket Responses API 모드가 공개됐습니다.
- 압축 API는 시스템 프롬프트, 첨부 파일, 이전 추론, 대화 요지를 담은 하나의 불투명한 압축 항목을 돌려주고, 긴 도구 출력과 잡담은 덜어 낸다고 설명했습니다.
- 다음 요청에 압축 항목을 그대로 넣으면 모델이 전체 기록이 있는 것처럼 대화를 이어 가며, 입력 토큰 비용과 첫 응답까지의 시간이 줄어든다고 밝혔습니다.
- 압축은 이미 맥락 한도를 넘은 요청을 살리지는 못하며, 한도 안에 있을 때 미리 써야 한다고 문서에 적혀 있습니다.
- 5월 27일에는 웹 검색에서 enable_image_search로 이미지를 직접 찾는 기능이 추가됐습니다.
압축은 어떻게 쓰나
대화가 길어지면 후속 요청마다 이전 메시지를 모두 다시 보내고 그 입력 토큰 값을 계속 냅니다. xAI 문서는 압축 API로 지금까지의 대화를 하나의 항목으로 바꾼 뒤, 원래 메시지는 버리고 그 항목을 다음 요청의 맨 앞에 두라고 안내합니다. 압축 항목은 사람이 읽거나 고치는 용도가 아니며, 받은 그대로 넣어야 합니다.
추론 모델이라면 이전 차례의 추론 내용을 보존하도록 암호화된 추론 내용 옵션을 함께 쓰라고 권합니다. 일반적인 사용법은 에이전트 루프에서 N번째 차례마다, 또는 맥락이 정해 둔 크기를 넘을 때 압축을 부르는 것입니다.
- 효과(xAI 설명): 입력 비용 감소, 첫 토큰까지 시간 단축, 오래된 도구 출력에 덜 산만해짐, 여러 시간짜리 에이전트 루프를 맥락 한도 안에 유지
- 쓸 때: 입력 토큰이 비용·지연을 키울 만큼 커졌고, 이전 대화를 기억해야 할 때
- 못 하는 것: 이미 한도를 넘은 요청 복구
웹소켓 모드와 이미지 검색
- WebSocket 모드: 오래 유지되는 하나의 연결로 Responses API를 사용. 도구를 많이 부르는 에이전트 작업의 전체 지연 감소
- 이미지 검색: 웹 검색 도구에서 관련 이미지를 직접 찾고, 응답에 마크다운 이미지로 포함 가능
AI마중 POINT · 해석
봐야 할 지점
에이전트용 API의 기본 기능 목록이 회사마다 비슷해지고 있습니다. OpenAI API 변경 기록에 따르면 OpenAI는 2월 Responses API에 서버 측 압축(2월 10일)과 웹소켓 모드(2월 23일)를 넣었고, Anthropic도 Opus 4.6과 함께 압축을 베타로 냈습니다. xAI는 이를 몇 달 뒤 갖춘 셈입니다. 모델 성능뿐 아니라 이런 '운영 기능'이 갖춰져야 개발자가 장시간 에이전트를 옮겨 오기 쉬워집니다.
압축은 공짜가 아니라는 점도 기억해야 합니다. 압축 요청 자체도 토큰을 쓰고, 무엇을 남기고 버릴지는 모델이 정하므로, 중요한 세부가 빠질 수 있습니다. xAI가 압축 항목을 '불투명'하게 만든 것도 개발자가 내용을 확인하기 어렵다는 뜻입니다.
그래서 나한테는?
개발자가 해 볼 것
- xAI API로 장시간 에이전트를 돌린다면: 일정 차례마다 압축을 넣고, 압축 전후의 비용과 답변 품질을 비교해 보는 것이 출발점입니다.
- 도구 호출이 많은 서비스: 웹소켓 모드로 왕복 지연을 줄일 수 있는지 시험해 볼 만합니다.
- 일반 Grok 사용자: API 기능이라 앱 사용에는 직접 변화가 없습니다.
미확인 · 공식 발표만으로 알 수 없는 것
확인하지 못한 것
- 압축 API 호출 비용과 압축률에 대한 수치는 문서에 나오지 않습니다.
- 압축 후 답변 품질이 얼마나 유지되는지에 대한 평가 결과는 공개되지 않았습니다.
SOURCE공식 원문 + 추가 출처
- PRIMARY · 공식Context CompactionxAI API Release Notes (docs.x.ai) · docs.x.ai · 발표 2026.05.29 · 확인 2026.10.05
- SECONDARY · 공식WebSocket Responses API ModexAI API Release Notes (docs.x.ai) · docs.x.ai · 발표 2026.05.29 · 확인 2026.10.05
- SECONDARY · 공식Image Search in Web SearchxAI API Release Notes (docs.x.ai) · docs.x.ai · 발표 2026.05.27 · 확인 2026.10.05
추가 확인 자료 · 편집자가 직접 대조한 공식 문서
- Context CompactionxAI Docs · docs.x.ai · 확인 2026.10.02확인한 내용: 압축 항목 구조, 사용 시점, 한계(한도 초과 요청은 복구 불가), 추론 내용 보존 옵션
- ChangelogOpenAI API 문서 · developers.openai.com · 확인 2026.10.02확인한 내용: 비교용: OpenAI 서버 측 압축(2월 10일)·웹소켓 모드(2월 23일) 출시일
수집 2026.10.01 · 정리 2026.10.01 · 수정 2026.10.05 · 원문 본문은 옮기지 않았습니다. 회사가 밝힌 수치·성능은 본문에서 출처를 붙여 구분했습니다.