SECURITY (보안·안전)
CodeQL 2.26.0, 'AI 프롬프트 인젝션' 탐지 추가
GitHub의 코드 분석 엔진 CodeQL이 AI 기능을 넣은 앱의 새로운 취약점 유형, '시스템 프롬프트 인젝션'을 찾아내기 시작했습니다. 사용자가 입력한 값이 검증 없이 AI 모델의 시스템 프롬프트로 흘러 들어가는 코드를 정적 분석으로 잡아냅니다. 나흘 뒤에는 CodeQL이 지원하지 않는 언어까지 AI로 보안 문제를 찾아 PR에 보여 주는 기능이 공개 프리뷰로 나왔습니다.
핵심 사실 · 한눈에 보기
- 7월 10일 CodeQL 2.26.0이 나왔습니다. JavaScript·TypeScript용 'js/system-prompt-injection' 쿼리를 추가해, 신뢰할 수 없는 사용자 입력이 AI 모델의 시스템 프롬프트로 들어가는 흐름을 탐지합니다.
- OpenAI(Sora 프롬프트, Realtime 세션 지시 등), Anthropic(구형 completion 프롬프트), Google GenAI(캐시 콘텐츠·시스템 지시) SDK API를 프롬프트 인젝션 지점으로 추가했습니다.
- 같은 버전에서 Kotlin 2.4.0 지원, C# Razor Page 매개변수 추적, Go slog 패키지 모델 등이 추가됐고, github.com 코드 스캐닝 사용자에게는 자동 적용됩니다.
- 7월 14일 코드 스캐닝이 AI 기반 보안 탐지 결과를 PR에 보여 주는 기능이 공개 프리뷰로 나왔습니다. CodeQL이 지원하지 않는 언어·프레임워크까지 범위를 넓히며, AI 결과에는 'AI' 표시가 붙습니다.
- AI 보안 탐지는 정보 제공용으로 병합을 막지 않으며, 프리뷰 기간에는 Copilot 라이선스가 필요하고 조직의 AI 크레딧을 차감합니다.
무엇을 잡아내나
프롬프트 인젝션은 외부 입력이 AI에게 내리는 지시로 둔갑하는 공격입니다. 예를 들어 고객이 입력한 문구를 그대로 챗봇의 시스템 프롬프트에 붙이면, 공격자가 '이전 지시를 무시하라' 같은 문장으로 모델의 동작을 바꿀 수 있습니다. CodeQL은 SQL 인젝션을 찾을 때처럼 데이터가 어디서 들어와 어디로 흘러가는지를 추적해, 사용자 입력이 시스템 프롬프트에 닿는 경로를 경고합니다.
- 대상 언어: 이번 쿼리는 JavaScript·TypeScript
- 탐지 지점: 주요 AI SDK의 시스템 지시·프롬프트 API
- 적용: github.com 코드 스캐닝은 자동, GitHub Enterprise Server는 이후 릴리스 또는 수동 업그레이드
AI마중 POINT · 해석
봐야 할 지점
프롬프트 인젝션이 '모델의 문제'에서 '코드의 취약점'으로 다뤄지기 시작했습니다. 모델이 아무리 지시를 잘 가려도, 애초에 신뢰할 수 없는 입력을 시스템 프롬프트에 넣는 코드 설계가 위험을 키운다는 관점입니다. 이 사이트 기록상 같은 7월 Hugging Face가 AI 에이전트 침입 사고를 겪는 등, AI 기능이 들어간 소프트웨어의 공격 면이 실제 사고로 이어지는 사례가 늘었습니다.
다만 정적 분석은 알려진 SDK와 흐름 패턴만 잡습니다. 웹페이지나 문서에 숨긴 지시를 AI가 읽는 '간접' 프롬프트 인젝션처럼, 코드 흐름만으로 드러나지 않는 공격은 여전히 별도 방어가 필요합니다.
그래서 나한테는?
개발자에게
- AI 기능이 있는 JS·TS 서비스: 코드 스캐닝을 켜 두었다면 새 경고가 뜰 수 있습니다. 사용자 입력은 시스템 프롬프트가 아닌 사용자 메시지 영역에 분리해 넣는 것이 기본 대응입니다.
- Python 등 다른 언어 프로젝트: 이번 쿼리는 해당하지 않습니다. AI 보안 탐지 프리뷰는 Copilot 라이선스와 AI 크레딧이 필요합니다.
- 보안 담당자: AI 탐지 결과는 병합을 막지 않는 참고 정보이므로, 검토 절차를 따로 정해 두는 것이 좋습니다.
미확인 · 공식 발표만으로 알 수 없는 것
확인할 것
- Python 등 다른 언어용 프롬프트 인젝션 쿼리 계획은 이번 변경 기록에 없습니다.
- AI 보안 탐지의 정확도나 오탐 비율은 공개되지 않았습니다.
SOURCE공식 원문 + 추가 출처
- PRIMARY · 공식CodeQL 2.26.0 adds Kotlin 2.4.0 support and AI prompt injection detectionGitHub Changelog · github.blog · 발표 2026.07.10 · 확인 2026.10.05
- SECONDARY · 공식Code scanning shows AI security detections on pull requestsGitHub Changelog · github.blog · 발표 2026.07.14 · 확인 2026.10.05
수집 2026.10.01 · 정리 2026.10.01 · 수정 2026.10.05 · 원문 본문은 옮기지 않았습니다. 회사가 밝힌 수치·성능은 본문에서 출처를 붙여 구분했습니다.