용도가 운명을 가른다 — 사내 LLM 의 D-day 89일

왜 같은 LLM 이 한쪽에서는 고위험이고 다른 쪽에서는 최소위험인가?

EU AI Act 는 위험 기반 4단계 구조를 택했다. 금지·고위험·제한적 위험·최소 위험. 이 분류 기준의 핵심은 모델 사양이 아니라 사용 맥락이다. 법문은 시스템(system) 단위로 의무를 매긴다. 모델 자체는 GPAI 라는 별도 트랙에서 공급자(provider) 의무로 다루고, 그 모델을 받아 워크플로우를 만든 회사는 배포자(deployer) 로서 별도 의무를 진다. 이 책임 분리가 v4.5.7 규제 설계의 출발점이다.

Annex III 는 8개 고위험 영역을 못박는다. 생체식별, 주요 인프라, 교육·직업훈련, 고용·인사관리, 필수 민간·공공 서비스 접근, 법 집행, 이주·국경·망명, 사법·민주절차. 이 가운데 일반 기업이 실무에서 자주 닿는 영역은 사실 두 곳에 가깝다. 채용·평가 자동화(고용 영역)와 신용·자격 심사(필수 서비스 접근). 나머지는 정부·국경관리·사법기관 같은 특수 주체에 집중된다.

사내 LLM 워크플로우의 분류는 결정 트리 한 장으로 정리된다. 답은 세 단계로 갈린다.

첫째, 그 워크플로우의 출력이 사람에 대한 결정에 영향을 주는가? 회의록 요약, 문서 번역, 코드 자동완성처럼 의사결정의 입력이 아니라 도구 보조에 머물면 보통 최소위험이다. 단순 생산성 도구는 이 가지에서 끝난다.

둘째, 영향을 준다면 그 결정이 Annex III 8개 영역에 해당하는가? 채용 지원자 서류를 LLM 으로 평가하거나, 직원 성과를 LLM 으로 점수 매기거나, 신용 한도·보험 인수 심사에 LLM 출력을 결정 근거로 쓰면 고위험이다.

셋째, 해당하지만 사람이 최종 결정을 보조 받는 수준인가? 법은 '의미 있는 인적 감독' 을 요구한다. 보조라는 명목으로 인간이 사실상 도장만 찍는 구조라면 고위험 의무를 피하기 어렵다. 인적 감독은 형식이 아니라 실질로 평가된다는 점이 deployer 의 첫 함정이다.

의무는 종이 위 선언이 아니다. 비용과 인력이 따라붙는다.

EU 집행위 영향평가(2021) 는 고위험 시스템당 적합성 평가 비용을 5만~40만 유로로 추산한다. 여기에 연간 운영비가 더해진다. 외부 감사를 받아야 하는 일부 시스템은 비용이 더 오른다. 실제 회사가 부담하는 항목은 다음에 가깝다. 위험관리 시스템 구축, 데이터 거버넌스 문서화, 기술문서 보관, 자동 로깅, 인적 감독 체계, 정확성·강건성·사이버보안 검증, EU 데이터베이스 등록, 사후 시장 모니터링.

위반 시 과징금은 GDPR(개인정보보호 규정) 보다 무겁다. 단, 모든 위반이 동일한 무게로 쓰러뜨리지는 않는다. 금지 AI 위반은 전 세계 매출 7% 또는 3500만 유로 가운데 큰 쪽이다. 고위험·일반 의무 위반은 매출 3% 또는 1500만 유로 가운데 큰 쪽이다. GDPR 의 4% / 2000만 유로 와 나란히 두면 결이 갈린다. 금지 영역 위반은 GDPR 보다 명백히 무겁고, 일반 의무 위반은 GDPR 보다 다소 가볍다. Annex III 의무를 가볍게 보면 안 된다는 신호 자체는 분명하지만, 모든 위반이 곧장 7% 과징금으로 직결되지는 않는다는 점도 같이 봐야 한다.

법문이 명료해 보여도 운영의 회색지대는 넓다. 이 지점들은 D-day 이후에도 한동안 다툼의 장이 된다.

첫 번째 모순. 사내 LLM 의 분류는 용도 기반이지만, 같은 모델 공급자에는 모델 기반 의무(GPAI 트랙) 가 동시에 걸린다. 회사가 OpenAI·Anthropic 같은 외부 모델을 받아 채용 보조에 쓰면, 회사는 deployer 로서 고위험 의무를 지면서 동시에 모델 자체의 기술문서·저작권 정책 의무는 공급자가 지는 이중 트랙이 된다. 한쪽이 부실하면 다른 쪽이 위험에 노출된다.

두 번째 모순. AI 시스템 정의의 경계가 흐릿하다. 사내에서 LLM 을 부품으로 끼워 넣은 결정 보조 도구는 별도 시스템인가, 기존 HR 시스템의 일부인가? CEN-CENELEC JTC21 이 작성 중인 조화 표준(harmonised standards) 이 2026년 안에 일부 발표될 예정이지만, 실제 분류 다툼은 표준이 굳어진 뒤에 본격화된다.

세 번째 모순. 중소기업·스타트업 감면 조항은 적합성 평가 수수료에는 적용되지만, 의무 자체는 줄지 않는다. 작은 회사가 채용에 LLM 을 쓰면 부담 항목은 동일한데 자원만 적다. 표면상 비례 원칙이지만 실효는 비대칭이다.

D-day 이전에 확인해야 할 신호는 네 가지로 좁혀진다.

조화 표준 발표가 첫째다. CEN-CENELEC JTC21 이 적합성 평가의 실무 지침을 어떻게 굳히는지가, 사내 LLM 워크플로우를 분류하는 실제 기준을 결정한다. 추상적 법문은 표준 한 줄로 다른 의미가 된다.

각 회원국 통보기관(notified body) 명단 공개가 둘째다. 외부 감사가 필요한 일부 고위험 시스템은 통보기관이 누구이며 비용이 얼마인지가 실질적인 진입 장벽이다.

집행위 위임행위(delegated act) 가 셋째다. AI Act 는 Annex III 영역을 시행 단계에서 추가·삭제할 수 있도록 위임 권한을 둔다. 범용 챗봇의 일부 용도가 추가될지 여부는 정치적 변수다.

마지막은 첫 시범 집행 사례다. 2026년 8월 2일 직후 어느 회원국 감독기관이 어떤 위반을 어떤 강도로 다루는지가, 모든 deployer 에게 실질적인 가이드가 된다. 표면 과징금과 실제 운영 사이의 거리가 그때 비로소 측정된다.