01SECURITY (보안·안전)
CodeQL 2.26.0, 'AI 프롬프트 인젝션' 탐지 추가
GitHub의 코드 분석 엔진 CodeQL이 AI 기능을 넣은 앱의 새로운 취약점 유형, '시스템 프롬프트 인젝션'을 찾아내기 시작했습니다. 사용자가 입력한 값이 검증 없이 AI 모델의 시스템 프롬프트로 흘러 들어가는 코드를 정적 분석으로 잡아냅니다. 나흘 뒤에는 CodeQL이 지원하지 않는 언어까지 AI로 보안 문제를 찾아 PR에 보여 주는 기능이 공개 프리뷰로 나왔습니다.
핵심 사실 · 한눈에 보기
- 7월 10일 CodeQL 2.26.0이 나왔습니다. JavaScript·TypeScript용 'js/system-prompt-injection' 쿼리를 추가해, 신뢰할 수 없는 사용자 입력이 AI 모델의 시스템 프롬프트로 들어가는 흐름을 탐지합니다.
- OpenAI(Sora 프롬프트, Realtime 세션 지시 등), Anthropic(구형 completion 프롬프트), Google GenAI(캐시 콘텐츠·시스템 지시) SDK API를 프롬프트 인젝션 지점으로 추가했습니다.
- 같은 버전에서 Kotlin 2.4.0 지원, C# Razor Page 매개변수 추적, Go slog 패키지 모델 등이 추가됐고, github.com 코드 스캐닝 사용자에게는 자동 적용됩니다.
- 7월 14일 코드 스캐닝이 AI 기반 보안 탐지 결과를 PR에 보여 주는 기능이 공개 프리뷰로 나왔습니다. CodeQL이 지원하지 않는 언어·프레임워크까지 범위를 넓히며, AI 결과에는 'AI' 표시가 붙습니다.
- AI 보안 탐지는 정보 제공용으로 병합을 막지 않으며, 프리뷰 기간에는 Copilot 라이선스가 필요하고 조직의 AI 크레딧을 차감합니다.
무엇을 잡아내나
프롬프트 인젝션은 외부 입력이 AI에게 내리는 지시로 둔갑하는 공격입니다. 예를 들어 고객이 입력한 문구를 그대로 챗봇의 시스템 프롬프트에 붙이면, 공격자가 '이전 지시를 무시하라' 같은 문장으로 모델의 동작을 바꿀 수 있습니다. CodeQL은 SQL 인젝션을 찾을 때처럼 데이터가 어디서 들어와 어디로 흘러가는지를 추적해, 사용자 입력이 시스템 프롬프트에 닿는 경로를 경고합니다.
- 대상 언어: 이번 쿼리는 JavaScript·TypeScript
- 탐지 지점: 주요 AI SDK의 시스템 지시·프롬프트 API
- 적용: github.com 코드 스캐닝은 자동, GitHub Enterprise Server는 이후 릴리스 또는 수동 업그레이드
SOURCE공식 원문 + 추가 출처
- PRIMARY · 공식CodeQL 2.26.0 adds Kotlin 2.4.0 support and AI prompt injection detectionGitHub Changelog · github.blog · 발표 2026.07.10 · 확인 2026.10.05
- SECONDARY · 공식Code scanning shows AI security detections on pull requestsGitHub Changelog · github.blog · 발표 2026.07.14 · 확인 2026.10.05
수집 2026.10.01 · 정리 2026.10.01 · 수정 2026.10.05 · 원문 본문은 옮기지 않았습니다. 회사가 밝힌 수치·성능은 본문에서 출처를 붙여 구분했습니다.