국산 AI 보안 협의체 출범, 11개 기관이 나눈 해킹 대응 역할

부제목: 2026년 10월 발표 기준, 기관별 역할과 데이터, 실증 계획을 한 번에 정리

무슨 일이 있었나: 핵심 요지

SK텔레콤은 2026년 10월 7일 협약식을 열었고, 다음 날인 10월 8일 '독자 AI 사이버보안 협의체' 출범과 AI 정보보호 기술 협력을 위한 업무협약 체결을 발표했습니다. 국내 AI 기업이 직접 만든 모델을 보안 업무에 맞게 다듬고, 보안 기업의 실제 업무 데이터와 대학의 독립 평가를 묶겠다는 구상입니다.

발표 내용은 세 가지로 정리됩니다.

첫째, 협의체는 총 11개 기관입니다. SK텔레콤과 업스테이지가 AI 모델을 맡고, 보안 기업 6곳(SK쉴더스·시큐아이·안랩·라온시큐어·지니언스·파이오링크)과 대학 3곳(고려대·숭실대·부산대)이 각자의 전문 영역을 맡습니다. 기업 8곳과 대학 3곳의 조합입니다.

둘째, 새 모델을 처음부터 만드는 것이 아니라 기존 독자 모델을 고도화합니다. 대상은 SK텔레콤의 A.X K 계열과 업스테이지의 솔라(Solar) 모델입니다. 이 모델들을 사이버보안 업무에 맞게 학습시키고, 참여사 제품과 서비스에 적용해 실증하겠다는 계획입니다. 이미 상용으로 배포된 보안 AI 제품의 성능을 발표한 것은 아닙니다.

셋째, 학습 데이터는 참여 기업의 실제 보안 업무에서 나옵니다. 악성코드 분석, 소프트웨어 취약점 분석, 보안관제 관련 정보가 학습 재료입니다. 계획상 사전학습 단계에서 보안 지식을 보강하고, 사후학습 단계에서 현장 업무 수행 능력을 높입니다.

이 세 가지를 기억해 두면 뒤에 나오는 역할 분담과 수치를 읽기가 쉽습니다. 협의체는 하나의 AI가 해킹을 혼자 막는 구조가 아니라, 데이터를 가진 보안 기업과 모델을 만드는 AI 기업, 결과를 검증하는 대학이 나뉘어 협력하는 구조입니다.

확인된 구성과 역할

협의체는 AI 모델 개발사, 보안 기업, 대학이 각자의 전문성에 따라 역할을 나눠 맡습니다. 발표된 기관별 역할은 다음과 같습니다.

기관별 역할 정리

보안 기업 6곳의 영역을 보면, 방어와 공격 양쪽이 고르게 들어 있다는 점이 눈에 띕니다. 방화벽은 외부에서 들어오는 접속을 걸러 내는 방어의 첫 관문이고, 모의침투는 실제 공격자처럼 시스템을 공격해 허점을 찾는 점검 방식입니다. 탐지룰은 보안 장비가 어떤 행위를 공격으로 판단할지 정해 둔 규칙이며, 공격 검증은 그 규칙이 실제 공격을 제대로 잡는지 확인하는 일입니다. 보안관제는 이런 장비에서 쏟아지는 이벤트를 24시간 지켜보며 대응하는 업무입니다.

여기서 중요한 점은 개발 주체와 평가 주체가 분리되어 있다는 것입니다. 모델을 만드는 SK텔레콤·업스테이지와, 그 모델을 평가하는 대학 3곳이 서로 다릅니다. 같은 기업이 스스로 성능을 보증하는 구조보다 검증의 객관성을 높일 수 있는 설계입니다.

대학별 평가 영역도 서로 겹치지 않습니다. 고려대가 맡는 실행 파일 분석은 악성코드의 상당수가 실행 파일 형태라는 점에서 보안 모델의 기본 능력을 보는 항목이고, 공격 방어력 평가는 모델이 실제 공격 시도를 얼마나 잘 막는지 확인하는 항목입니다. 숭실대는 보안 성능의 기준을 세우는 일과 모델 자체를 속이려는 공격에 대한 대응력을, 부산대는 다음 세대 모델과 작은 모델의 성능·안전성을 봅니다. 모델의 능력, 모델 자체의 안전성, 작은 모델로 옮겼을 때의 품질을 나눠 보는 구성입니다.

모델별 학습 방향은 어떻게 다른가

두 모델은 같은 목표를 향하지만 보강하는 데이터의 방향이 다릅니다. SK텔레콤은 차기 모델 A.X K3에 보안 데이터와 함께 자사 AI 서비스 '모두의 AI'를 안전하게 운영하는 데 필요한 데이터를 보강할 계획입니다. 업스테이지는 차기 솔라 모델에 취약점 탐지·분석 데이터를 집중적으로 학습시킬 계획입니다.

정리하면 SK텔레콤은 보안 능력과 AI 서비스 운영 안전성을 함께 다루고, 업스테이지는 취약점 탐지라는 특정 보안 업무에 무게를 둡니다. 같은 협의체 안에서도 모델마다 강점을 다르게 설계하고 있다는 뜻이고, 나중에 실증 결과가 나오면 두 방향의 차이를 비교하는 기준이 됩니다.

배경과 계기

AI 모델이 코드와 로그를 읽고 해석하는 능력이 높아지면서, 보안 업무에 AI를 적용하려는 시도가 늘고 있습니다. 이번 협의체는 이 흐름 속에서 '독자 AI', 즉 국내 기업이 자체 개발해 온 모델을 보안 업무에 맞게 고도화하겠다는 방향을 내놓았습니다.

보안 업무에 AI를 쓰려면 일반 지식만으로는 부족합니다. 악성코드가 어떻게 움직이는지, 취약점이 어떤 코드에서 생기는지, 관제센터에 어떤 이벤트가 들어오는지는 현장 데이터가 있어야 배울 수 있습니다. 협의체가 보안 기업의 실제 업무 데이터를 학습 재료로 삼는 이유가 여기에 있습니다.

학습은 두 단계로 나뉩니다. 사전학습은 모델이 보안 분야의 기본 지식을 넓게 쌓는 단계이고, 사후학습은 그 지식을 취약점 분석이나 사고 대응 같은 실제 업무 수행에 맞게 다듬는 단계입니다. 협의체는 사전학습에서 보안 지식을 보강하고, 사후학습에서 현장 업무 능력을 높이겠다고 밝혔습니다. 일반적으로 사전학습에는 넓고 많은 데이터가, 사후학습에는 업무 형식에 맞게 정리된 데이터가 쓰입니다. 보안 기업이 가진 분석 기록과 관제 기록은 두 단계 모두에 쓸 수 있는 재료라, 데이터를 가진 기업과 모델을 가진 기업이 함께 움직이는 이유가 됩니다.

구성에도 변화가 있었습니다. 2026년 8월 정부의 사이버보안 특화 AI 파운데이션 모델 사업 신청 때 꾸린 14개 기관 컨소시엄(바이라인네트워크 보도)과 비교하면, 협의체는 11개 기관으로 재편됐습니다. 이 과정에서 이글루코퍼레이션, 스마트엠투엠, 에임인텔리전스, 한국정보보호산업협회(KISIA)가 빠지고 부산대가 새로 합류했습니다. 컨소시엄 명단은 언론 보도로 전해진 내용이며, 재편 이유는 발표되지 않았습니다.

누구에게 어떤 영향이 있나

이번 발표는 보안 실무자, AI 서비스를 운영하는 기업, 개발자와 연구자에게 각각 다른 의미가 있습니다.

보안 업계 종사자

보안관제와 취약점 분석을 맡는 실무자에게는 AI가 어떤 업무를 어디까지 돕는지가 가장 중요합니다. 협의체가 밝힌 보안 AI의 업무 목표는 세 가지입니다. 소프트웨어 취약점 분석과 패치, 보안관제센터의 사고 대응, 보안 도구의 안전한 활용입니다.

이 세 가지는 개발 목표로 제시된 것입니다. AI가 취약점을 분석해 보고서를 만드는 것과 AI가 스스로 패치를 적용하는 것은 전혀 다른 수준의 업무입니다. 발표는 '취약점 분석과 패치'를 목표로 들었지만, AI가 패치를 직접 적용하는 수준까지 맡길지는 밝히지 않았습니다. 현장에서 도입을 검토하는 담당자라면 어떤 업무를 AI에 맡기고 어떤 판단은 사람이 유지할지부터 정해 두는 것이 안전합니다.

AI 서비스를 운영하는 기업

SK텔레콤이 차기 모델 A.X K3에 '모두의 AI' 서비스를 안전하게 운영하는 데 필요한 데이터를 보강한다는 계획은, AI 서비스를 운영하는 기업에게도 참고가 됩니다. 모델이 공격을 받을 때 버티는 힘을 학습 단계에서 키우겠다는 뜻이기 때문입니다.

이를 점검하는 방법으로 협의체는 상호 레드티밍을 제시했습니다. 레드티밍은 공격자 역할을 맡은 쪽이 일부러 약점을 공격해 보는 안전성 점검입니다. 이번에는 두 모델이 서로를 공격해 취약점을 찾고, 발견한 사례를 두 모델의 학습 데이터로 쓰는 방식입니다. 한 회사가 자기 모델만 점검할 때보다 다른 설계의 모델이 공격자 역할을 맡으므로, 서로 다른 관점의 허점이 드러날 수 있습니다.

AI 서비스를 운영하는 기업 입장에서는 이 방식을 자사 점검에도 참고할 수 있습니다. 서비스에 붙인 모델이 우회 질문이나 악의적인 입력에 어떻게 반응하는지 정기적으로 시험하고, 문제가 된 사례를 모아 두는 것만으로도 안전성 점검의 기초가 마련됩니다.

개발자와 연구자

대학이 개발과 분리된 평가 역할을 맡는다는 점은 연구자에게 의미가 있습니다.

가드레일 우회 공격은 AI 모델이 위험한 답을 하지 않도록 걸어 둔 안전장치를 질문 방식이나 우회 표현으로 뚫으려는 시도를 말합니다. 숭실대가 이 영역을 맡는 것은 모델의 보안성을 공격자의 관점에서 검증하겠다는 뜻입니다. 부산대가 맡는 경량 모델 평가는 개발자에게 특히 실용적인 주제입니다. 모든 환경에 큰 모델을 올릴 수는 없으므로, 작은 모델이 성능과 안전성을 어느 정도 유지하는지는 실제 도입을 고민하는 쪽에 중요한 정보가 됩니다.

핵심 데이터

발표에는 참여 기업이 가진 데이터와 분석 규모를 보여 주는 수치가 네 가지 나옵니다.

발표된 수치 4가지

※ 위 수치는 각사가 발표한 분석량·보유량·생성 데이터 규모이며, 협의체에 제공되거나 학습에 투입된 데이터 총량으로 확인된 것은 아닙니다.

네 수치는 기준이 모두 다릅니다. SK쉴더스의 170억 건은 하루 단위의 분석량이고, 안랩의 2.5PB는 누적된 보유량이며, SK텔레콤의 1만 5천 건은 특정 모델 개발 과정에서 만든 학습 데이터 건수이고, 업스테이지의 21만 건은 보유 데이터 건수입니다. 단위도 '건'과 'PB'로 다르므로 크기를 나란히 비교하거나 합산하면 오해가 생깁니다. PB(페타바이트)는 데이터 저장 용량 단위로, 1PB는 1,024TB(테라바이트)에 해당합니다. 건수로 센 이벤트·데이터와 용량으로 잰 데이터는 애초에 같은 축에 놓을 수 없습니다.

이 수치들은 "누가 가장 많이 가졌나"를 가리는 용도보다, 각 기관이 어떤 종류의 데이터를 강점으로 가졌는지 파악하는 용도로 읽는 것이 맞습니다. SK쉴더스는 실시간 관제 이벤트, 안랩은 축적된 보안 데이터, SK텔레콤은 공격 대응 학습 데이터, 업스테이지는 고난도·안전성 데이터라는 서로 다른 재료를 갖고 협의체에 들어온 셈입니다.

앞으로 확인할 일: 아직 모르는 것

발표문에 나온 계획과, 아직 빠진 내용을 나눠 보면 다음과 같습니다.

발표된 계획

- 참여사 제품과 서비스에 모델을 적용해 제로데이 취약점 분석과 실시간 보안관제 등을 공동 실증

- 실증 결과를 다시 학습에 반영

- 정기적인 기술 교류와 공동 연구과제 발굴

- 정보보호 분야 사업에 공동 참여하는 방안 검토

- 정보보호 기업·대학·연구소·AI 기업의 추가 참여에 열려 있음

제로데이 취약점은 아직 알려지지 않아 패치가 나오지 않은 취약점을 말합니다. 공격자가 먼저 발견하면 막기가 매우 어렵기 때문에, 이를 먼저 찾아내는 능력은 보안 AI의 대표적인 목표로 꼽힙니다. 실시간 보안관제와 함께 이 두 영역이 실증 대상으로 언급됐으므로, 결과도 이 두 영역부터 확인할 수 있을 것입니다.

실증 결과를 다시 학습에 반영한다는 계획은 '현장에서 써 보고, 그 결과로 다시 다듬는' 순환 구조를 뜻합니다. 대학 평가와 상호 레드티밍까지 이 순환에 들어가면, 모델은 실제 업무 데이터와 공격 시도에 반복해서 노출되며 고도화됩니다.

후속 결과가 나오면 확인할 점도 정해 두면 좋습니다. 성능 수치가 발표되면 어떤 데이터와 어떤 공격 유형으로 측정했는지, 대학 평가 결과인지 개발사 자체 측정인지, 사람이 검토한 결과인지 자동 판정인지를 함께 보아야 수치의 무게를 판단할 수 있습니다.

아직 발표되지 않은 것

- 모델 출시 시점

- 탐지율이나 정확도 같은 성능 수치

- 자동 대응이 가능한 범위

- 상용 제품에서의 실적

- 공동 사업 참여의 확정 여부

이 다섯 가지는 이번 발표에 담기지 않았습니다. "실증", "검토"라는 표현은 앞으로 진행할 단계를 가리키므로, 발표 시점의 계획을 현재 성과로 읽지 않는 것이 정확합니다.

독자 입장의 점검 항목

보안 업무나 AI 서비스 운영에 관여하는 독자라면 이번 발표를 계기로 다음 항목을 점검해 볼 수 있습니다.

① AI가 맡는 업무 범위를 구분하기: "취약점 분석"과 "자동 패치 적용"은 다른 업무입니다. 도입을 검토한다면 두 업무를 나눠 기준을 세우세요.

② 수치의 기준 확인하기: 분석량, 보유량, 학습 데이터, 실증 결과는 서로 다른 지표입니다. 보도나 제안서에서 수치를 보면 그것이 무엇을 센 값인지 먼저 확인하세요.

③ 검증 주체 확인하기: 개발사가 스스로 평가했는지, 별도 기관이 평가했는지 살펴보세요. 이번 협의체는 대학이 평가를 맡는다는 점에서 구조가 다릅니다.

④ 사람의 승인 절차 정하기: AI 도구를 도입할 때는 자동 조치 범위와 사람의 승인 단계를 먼저 정해 두는 것이 안전합니다. 차단·격리·패치처럼 되돌리기 어려운 조치는 사람이 확인하는 단계를 남겨 두세요.

⑤ 데이터 취급 기준 점검하기: 보안 데이터를 AI 학습이나 외부 서비스에 쓸 때는 어떤 데이터가 어디까지 쓰이는지 확인해야 합니다. 협의체는 참여 기업의 실제 보안 업무 데이터를 활용한다고 밝혔으므로, 데이터를 제공하는 쪽의 책임 범위도 함께 살펴보세요.

⑥ 후속 발표 추적하기: 실증 결과와 대학 평가 결과가 공개되면, 이번 발표에서 비어 있던 성능·자동 대응 범위·출시 시점을 채워 볼 수 있습니다.

자주 묻는 질문

Q. 이 협의체는 이미 AI가 해킹을 자동으로 막아 주는 건가요?
A. 아닙니다. 이번 발표는 모델 고도화와 실증을 계획한 단계입니다. 업무 목표로 제시된 취약점 분석과 패치, 사고 대응, 보안 도구 활용도 개발 목표이며, 자동 조치가 현재 운영 중이라는 뜻이 아닙니다.

Q. 왜 개발 기업과 대학이 따로 평가를 맡나요?
A. 개발 주체와 평가 주체를 나누면 성능 주장을 독립적으로 검증할 수 있습니다. 대학 3곳이 실행 파일 분석, 가드레일 우회 공격 대응력, 경량 모델 안전성처럼 서로 다른 영역을 나눠 평가합니다.

Q. 14개 기관에서 11개로 줄어든 이유는 무엇인가요?
A. 보도된 14개 기관 명단과 비교하면 이글루코퍼레이션, 스마트엠투엠, 에임인텔리전스, KISIA가 빠지고 부산대가 합류했습니다. 재편 이유는 기업 발표문에 나오지 않았습니다.

Q. 협의체에 다른 기업도 참여할 수 있나요?
A. 협의체는 정보보호 기업, 대학, 연구소, AI 기업의 추가 참여에 열려 있다고 밝혔습니다. 참여 절차나 조건은 발표에 담기지 않았습니다.

Q. 모델이 나오면 바로 쓸 수 있나요?
A. 출시 시점은 발표에 없습니다. 모델은 참여사 제품에서의 실증과 대학 평가를 거쳐 다듬어질 예정이므로, 실제 사용 시점은 후속 발표로 확인해야 합니다.

참고 자료

- SK텔레콤 보도자료 https://news.sktelecom.com/231797

- 바이라인네트워크 보도(2026년 8월 27일) https://byline.network/2026/08/27-665/

정리하면, 이번 협의체는 AI 모델 개발, 보안 데이터 제공, 독립 평가, 실증과 재학습을 하나로 잇는 협력 구조를 제시했습니다. 기관별 역할과 데이터의 성격은 분명해졌고, 성능과 상용화 성과는 실증과 평가 결과로 판단하게 됩니다. 발표된 계획과 확인된 사실을 구분해 읽는 것이 이 소식을 정확하게 이해하는 방법입니다.

🏢 비젠소프트 | 커스텀 개발 기반 IT 솔루션·웹 서비스 개발·AI 마케팅 자동화
📧 sales@vizensoft.com | 🌐 www.vizensoft.com | 📞 02-338-4610