2026년 5월 29일 (금)

핵심 사실

• OpenAI가 Rosalind Biodefense를 시작해, 생물방어·공중보건·팬데믹 대비를 연구하는 검증된 개발자와 미국 정부 파트너에게 GPT-Rosalind 접근을 넓힌다고 밝혔습니다.

압축은 어떻게 쓰나

대화가 길어지면 후속 요청마다 이전 메시지를 모두 다시 보내고 그 입력 토큰 값을 계속 냅니다. xAI 문서는 압축 API로 지금까지의 대화를 하나의 항목으로 바꾼 뒤, 원래 메시지는 버리고 그 항목을 다음 요청의 맨 앞에 두라고 안내합니다. 압축 항목은 사람이 읽거나 고치는 용도가 아니며, 받은 그대로 넣어야 합니다.

추론 모델이라면 이전 차례의 추론 내용을 보존하도록 암호화된 추론 내용 옵션을 함께 쓰라고 권합니다. 일반적인 사용법은 에이전트 루프에서 N번째 차례마다, 또는 맥락이 정해 둔 크기를 넘을 때 압축을 부르는 것입니다.

• 효과(xAI 설명): 입력 비용 감소, 첫 토큰까지 시간 단축, 오래된 도구 출력에 덜 산만해짐, 여러 시간짜리 에이전트 루프를 맥락 한도 안에 유지
• 쓸 때: 입력 토큰이 비용·지연을 키울 만큼 커졌고, 이전 대화를 기억해야 할 때
• 못 하는 것: 이미 한도를 넘은 요청 복구