SECURITY (보안·안전)
'오픈 시큐어 AI 연합' 출범… 엔비디아 등 업계가 공개 AI 보안에 협력
엔비디아 주도로 100곳이 넘는 기업과 단체가 'Open Secure AI Alliance'를 결성했습니다. 사이버 방어에는 누구나 들여다보고 고치고 자기 인프라에서 돌릴 수 있는 공개 모델과 도구가 필요하다는 것이 이들의 주장입니다. 네이버·삼성전자·SK텔레콤도 창립 파트너로 이름을 올렸습니다. 공개 가중치 모델의 위험을 둘러싼 논쟁이 이어지던 시점에 나온 '공개 진영'의 집단 입장 표명입니다.
핵심 사실 · 한눈에 보기
- 7월 27일 엔비디아가 Open Secure AI Alliance 출범을 발표했습니다. 리눅스 재단의 보안 활동(OpenSSF 등)을 기반으로, 공개 기술로 취약점을 고치고 공개한다는 목표입니다.
- 창립 파트너에는 Amazon, Microsoft, GitHub, Hugging Face, Mistral, Cisco, CrowdStrike, IBM, Red Hat 등과 국내 기업인 네이버, 삼성전자, SK텔레콤이 포함됐습니다.
- 엔비디아는 최근 Hugging Face 보안 사고에서 폐쇄형 AI 도구가 공격자와 방어자를 구분하지 못해 포렌식 분석을 막았고, Hugging Face가 공개 가중치 모델 GLM 5.2를 자체 인프라에서 돌려 1만7천 건 넘는 행동을 분석해 침입을 막았다고 설명했습니다.
- 엔비디아는 에이전트 하네스 연구 프레임워크 NOOA를 오픈소스로 공개했고, Microsoft의 다중 모델 취약점 탐색 하네스 MDASH, HPE의 SPIFFE/SPIRE, Hugging Face의 Safetensors 등이 기여 사례로 소개됐습니다.
- SpaceXAI는 Grok Build 코딩 에이전트를 오픈소스로 공개했고, Grok 계열 모델 가중치도 공개할 계획이라고 밝혔다고 엔비디아가 전했습니다.
연합의 주장
- 폐쇄형과 공개형 모델이 모두 필요하며, 사이버 방어에는 공개 모델·하네스가 특히 중요
- 공개 모델의 악용 위험은 실재하지만 폐쇄형에서도 사라지지 않음. 가중치를 닫는 것만으로 결심한 공격자를 막을 수 없음
- AI 안전은 가중치 공개 여부가 아니라 신원·권한·하네스·안전장치·기록·평가 등 에이전트 전체 구조에 달림
- 정책 제안: 공개 프런티어 AI에 대한 일괄 제한은 방어 능력을 약화하고 소수 폐쇄형 공급자에 의존을 집중시킴
AI마중 POINT · 해석
봐야 할 지점
공개 모델 규제 논쟁에서 '공개 진영'이 세를 모았습니다. 엔비디아는 하드웨어를 파는 회사라, 더 많은 조직이 모델을 직접 돌릴수록 이득을 보는 구조이기도 합니다. 같은 날 Anthropic은 공개 가중치 모델에 대한 입장을 따로 냈고, 창립 파트너 명단에는 Anthropic·OpenAI·구글이 보이지 않습니다.
근거로 든 Hugging Face 사례는 이 사이트가 7월에 다룬 AI 에이전트 침입 사고입니다. 폐쇄형 도구가 보안 분석 요청을 공격으로 오인해 막았다는 부분은 엔비디아의 설명이며, 해당 도구 제공사의 반론은 이 글에 없습니다.
그래서 나한테는?
누구에게 의미가 있나
- 보안팀: NOOA 같은 공개 하네스와 연합이 내놓을 평가 도구를 자체 환경에서 시험해 볼 수 있습니다.
- 국내 기업: 네이버·삼성전자·SK텔레콤이 참여해, 국내 공개 모델·보안 생태계와 연결될 여지가 있습니다. 각 사의 구체적 기여 내용은 발표에 없습니다.
- AI 정책 담당자: 공개 모델을 '위험 요인'이 아니라 '방어 자산'으로 보자는 업계 요구가 공식화됐습니다.
미확인 · 공식 발표만으로 알 수 없는 것
확인할 것
- 연합의 운영 구조, 공동 산출물과 일정은 발표에 나오지 않습니다.
- Grok 모델 가중치 공개 시점은 제시되지 않았습니다.
SOURCE공식 원문 확인
- PRIMARY · 공식Industry Leaders Unite in Open Secure AI Alliance for AI Safety and SecurityNVIDIA Blog · blogs.nvidia.com · 발표 2026.07.27 · 확인 2026.10.05
수집 2026.09.30 · 정리 2026.10.01 · 수정 2026.10.05 · 원문 본문은 옮기지 않았습니다. 회사가 밝힌 수치·성능은 본문에서 출처를 붙여 구분했습니다.