AI 기본법 제32조가 '최첨단 AI'를 가르는 기준은 누적 연산량 10의 26승 플롭이다.
숫자 하나로 규제 대상 여부가 갈린다.
그런데 이 숫자가 비켜 가는 자리가 있다. 최대선 숭실대 AI안전성연구센터장은 1일 국가AI전략위원회 세미나에서, 정부가 주도해 개발 중인 사이버보안 특화 AI 파운데이션 모델이 바로 그 자리에 놓여 있다고 지적했다.1 고영향 AI로 분류되는 영역에 사이버보안이 들어 있지 않고, 연산량 기준도 이 모델을 잡지 못한다는 설명이다.
고영향의 바깥
법이 작동하는 방식은 비교적 단순하다. 기준을 숫자로 못박아 두면 누구든 그 숫자를 재서 규제 대상인지 확인할 수 있다. 이 투명함이 법적 검증의 힘이다.
그런데 최대선 센터장이 짚은 지점은 숫자가 틀렸다는 게 아니다. 범위 자체가 좁다는 지적이다.1 사이버보안 특화 모델은 연산량으로 보면 최첨단 AI 기준에 못 미칠 수 있고, 분류로 보면 고영향 AI 목록에 사이버보안이 아예 들어 있지 않다. 법으로 확인하려 해도 확인할 조항이 없는 셈이다.
여기에는 이해관계도 하나 겹쳐 있다. 이 모델을 주도해 개발하는 쪽이 정부고, 그 정부가 동시에 AI 기본법의 규제 설계자다. 규제를 만드는 손과 규제를 받아야 할 대상을 만드는 손이 같은 자리에 있을 때, 법적 확인은 더 느리게 움직일 수밖에 없다. 법으로 확인할 수 있는 것은 법이 미리 포괄해 둔 대상뿐이고, 포괄 밖의 대상은 기준이 아무리 명확해도 확인 자체가 성립하지 않는다.
와이파이가 보내는 곳
Consumer Reports가 커넥티드 차량 21대와 연동 모바일 앱 30개를 직접 조사한 결과는, 법적 공시 없이도 확인 가능한 사실이 있음을 보여준다.2 차량 19대가 와이파이로 제3자 서버에 접속했고, 그 접속 대상에는 광고와 추적 도메인이 섞여 있었다. 앱 7개는 민감한 식별정보를 광고·추적 업체로 보냈고, 그 가운데 5개는 차대번호까지 함께 전송했다.
연구자가 차량 한 대의 와이파이 트래픽을 직접 캡처하고, 그 패킷이 어느 도메인으로 향하는지 하나씩 따라가는 장면을 떠올리면, 이 조사가 확인하는 방식이 또렷해진다. 제조사가 무엇을 공개했는지와 무관하게, 실제로 어디로 데이터가 가는지를 측정한다. 법이 공시를 요구하지 않아도 측정은 요구 없이도 가능하다는 점에서, 이 조사는 법과는 다른 쪽에서 확인의 공백을 메운다.
다만 이 측정에도 적용 한계는 있다. 조사 대상은 21대와 30개 앱으로 한정돼 있고, 조사 시점의 소프트웨어 설정이 바뀌면 같은 차량도 다른 결과를 낼 수 있다.2 독립 조사가 확인하는 것은 조사한 순간의 사실이지, 영구히 고정된 사실은 아니다.
뒤를 보는 쪽
클로드 코드 v2.1.287 릴리스 노트에 추가된 기능 가운데 '유 슈드 노우'라는 이름이 눈에 걸린다.3 사이드 에이전트가 사용자나 클로드 자신이 놓칠 수 있는 지점을 대신 지켜보고 표시해 주는 기능이다. 플러그인을 켜면 작동한다.
이 기능이 흥미로운 이유는 감시의 주체가 외부 기관이나 법이 아니라 도구 내부라는 점이다. 사용자가 무언가를 확인하려 할 때, 그 확인을 또 다른 에이전트가 대신 떠안는다. 확인 책임이 사람 쪽에서 도구 쪽으로 한 칸 건너가는 구도다.
그런데 이 감시 장치도 조건 없이 작동하지는 않는다. 릴리스 노트는 이 기능이 텔레메트리를 켠 퍼스트파티 세션에서만 작동한다고 밝힌다.3 달리 볼 여지가 여기서 생긴다. 텔레메트리를 꺼둔 세션이나 서드파티 환경에는 이 '뒤를 보는 눈'이 아예 없다는 뜻이다. 텔레메트리가 켜져야만 작동한다는 조건은, 이 장치가 사용자를 돕는 동시에 운영사 쪽으로 데이터가 흘러가는 통로와도 겹쳐 있음을 짚게 한다.
세 확인이 남긴 자리
이번 주 나온 세 소식을 나란히 읽으면 확인의 방식이 서로 다르다는 사실이 선명해진다. 법은 숫자와 분류로 선을 긋고, 그 선 안쪽만 확인한다. 독립 조사는 선언된 사실이 아니라 측정된 사실을 확인하고, 측정한 순간과 대상 안에서만 유효하다. 도구는 내부에 감시 장치를 심어 확인하고, 그 장치가 켜진 세션 안에서만 작동한다.
세 방식은 서로 겹치지 않는 영역을 맡는다. 법이 못 보는 사이버보안 모델을 독립 조사나 내부 감시 장치가 대신 확인해 주지는 않는다. 독립 조사가 밝힌 차량 데이터 흐름을 법이 사후에 규제로 흡수할지는 또 다른 문제로 남는다. 도구 안의 감시 장치가 지켜보는 범위는 애초에 그 세션 밖의 일과는 상관이 없다.
이번 주 바뀐 것은 확인의 방식이 하나 늘었다는 사실이다. 법적 기준, 독립 실측, 내부 감시 장치가 각자의 자리에서 작동하기 시작했고, 그 자리마다 비어 있는 구간도 함께 드러났다.
각주
-
최대선 센터장 "사이버보안 특화 모델 AI 기본법 사각지대...기준 마련 시급" — www.aitimes.com, 2026-10-02 발행, 2026-10-02 접속 확인. ↩ ↩2
-
Automatic Transmission - 커넥티드 차량의 데이터 프라이버시 연구 — news.hada.io, 2026-10-01 발행, 2026-10-02 접속 확인. ↩ ↩2
-
v2.1.287 — github.com, 2026-10-01 발행, 2026-10-02 접속 확인. ↩ ↩2
