3중 재설계 — DB 한 벌에서 AI 데이터 평면으로

왜 동시인가. 데이터 레이어만 갈면 모델을 운영할 컴퓨트가 없다. 컴퓨트만 갈면 학습 데이터 평면이 흔들린다. 두 레이어를 다 깔아도 거버넌스가 비면 EU AI Act 시행 시점에 운영 일부를 멈춰야 한다. 한 레이어만 먼저 갈면 그 레이어가 다른 두 레이어의 부재를 메우기 위해 변형되고, 결국 셋 다 다시 짠다.

구체적으로 데이터 레이어는 객체 스토리지(S3·GCS·R2 등) 위에 Iceberg나 Delta Lake 같은 레이크하우스 포맷을 얹어 ACID(원자성·일관성·고립성·내구성)가 보장된 분석 평면을 만든다. 기존 RDBMS는 CDC(Change Data Capture — 변경 분만 추출하는 방식)로 흘려 보낸다. 임베딩 검색을 위해 pgvector나 Milvus, Weaviate를 추가한다. 컴퓨트 레이어는 쿠버네티스 위 GPU 노드풀에 MLflow·Kubeflow·Feature Store(Feast/Tecton)를 묶는다. 거버넌스 레이어는 Atlan·Collibra 같은 카탈로그와 Monte Carlo 같은 데이터 관측성 도구로 계보·품질·감사를 자동화한다.

2026년 시점 MLOps의 결정적 변화는 LLM/RAG/벡터 스토어 운영까지 포함하도록 범위가 넓어졌다는 점이다. 임베딩 드리프트 감지가 신규 모니터링 항목으로 들어왔고, 이는 데이터 레이어 변화 없이는 잡을 수 없다. 세 레이어가 한 회로 안에서 돈다.

단계 1, 즉 평가와 디스커버리에 1~3개월을 쓰는 일은 겉보기에 시간 낭비처럼 보인다. 코드 한 줄 안 쓰고 데이터 자산 카탈로그를 그리고, 6R 의사결정 트리(Rehost / Replatform / Refactor / Repurchase / Retire / Retain)로 워크로드를 나누고, 사용 사례를 우선순위화한다. 그러나 이 단계를 건너뛴 조직이 단계 4에서 평균 2~3배의 비용 폭증을 겪는다.

이유는 단순하다. 단계 1 부실은 데이터 품질 부채로 누적되고, 단계 4(거버넌스·관측성)에서 한꺼번에 청구된다. 1~10TB 중간 규모는 4~8개월에 끝나지만, 100TB 이상은 12~24개월이 시장 평균이다 (출처: SoluLab, Lumitech 2026 가이드). 의존하는 애플리케이션 수가 용량보다 더 큰 변수이며, AI 보조 마이그레이션 도구로 30~50%까지 단축은 가능하지만 단계 1 자체는 줄이지 못한다.

아래 차트는 단계 0에서 단계 6까지의 평균 일정을 100TB 이상 환경 기준으로 보여준다. 단계 2(데이터)와 단계 3(컴퓨트)은 병행되고, 단계 4(거버넌스)는 단계 2 후반에 시작해도 단계 5 컷오버 전엔 끝나야 한다. 즉 거버넌스를 미루면 컷오버 자체가 막힌다.

왜 하필 2026년인가. 답은 규제다. 2026년 8월부터 EU AI Act의 고위험 시스템 조항이 시행된다. 채용·신용 평가·자동 고객 의사결정에 AI를 쓰면 즉시 대상이다. 위반 시 과징금 상한은 3,500만 유로 또는 글로벌 매출의 7% 가운데 큰 금액이다 (출처: Informatica, Kiteworks 2026 분석).

핵심은 이 조항이 기술 선택이 아니라 절차를 강제한다는 점이다. 모델 학습 데이터의 출처와 계보, 학습 과정 로그, 운영 중 모니터링, 사고 시 감사 trail이 의무 항목이 된다. 즉 단계 4(거버넌스·관측성)가 더 이상 '나중에 해도 되는' 영역이 아니다. 이 변화는 그동안 데이터 카탈로그와 계보 추적을 미뤄온 조직에 가장 무겁게 떨어진다.

실제로 2026년 IT 현대화 시장의 가격 구성에서 가장 빠르게 오르는 항목이 거버넌스 도구와 컴플라이언스 컨설팅이다. 기술 비용보다 인적 절차 정비가 더 큰 항목으로 떠올랐다는 보고가 다수 보고서에 공통으로 나타난다 (Towards Data Science, Governance Intelligence 2026). 이 변화는 EU 안에서 사업하지 않더라도 EU 시민 데이터를 다루는 한 적용되므로, 실질적으로 글로벌 기준이 된다.

여기서 한 번 멈추고 묻자. 정말 EB(엑사바이트)급이 필요한가.

사실 대부분 기업은 EB급이 필요 없다. 일반 중견 기업의 분석과 AI 작업은 페타바이트(PB) 미만으로 충분하다. EB급은 빅테크와 일부 대형 금융·통신의 영역이다. 그러나 EB급에서 검증된 설계 원칙은 그보다 작은 환경에 그대로 옮겨진다.

그 원칙의 핵심은 핫 티어와 콜드 티어의 비대칭이다. EB급 환경에서 NVMe 핫 티어는 전체 용량의 1~2%에 불과하지만, 읽기 요청의 60%를 처리한다 (출처: Introl 2026 분석). 즉 모든 데이터를 NVMe SSD에 둘 필요가 없다. 액세스 패턴 분석이 곧 비용 설계다.

이 통찰은 작은 환경에도 통한다. 단일 Samsung PM1735 NVMe 드라이브의 시퀀셜 읽기는 6.8 GB/s다. WekaFS나 VAST 같은 분산 파일시스템으로 수백 개를 묶으면 중견 기업의 RAG 운영 핫 풀로 충분하고도 남는다. 비싼 부분은 용량이 아니라 IOPS 분포다. 그래서 진짜 의제는 EB급 추구가 아니라, 액세스 패턴 기반 다층(multi-tier) 설계다.

앞 다섯 섹션의 결론을 시나리오 네 개로 정리한다. 가로축은 일어날 확률, 세로축은 비즈니스 영향이다.

첫 시나리오, 단계적 성공 — 디스커버리 6개월에 충실하고 세 레이어를 병행으로 18~24개월에 컷오버. 3년 누적 ROI 200~304%, 회수 기간 6~18개월. 가장 가능성이 높지만 인내가 든다.

둘째 시나리오, 빅뱅 후 폭증 — 단계 1을 압축하고 컷오버를 서두르다 단계 4에서 거버넌스 부채가 한꺼번에 청구. 예산이 2~3배로 폭증한다. 시장 평균 실패 사례에 가깝다.

셋째 시나리오, 규제 충돌 — 채용·신용 같은 고위험 영역에 AI를 먼저 깔았다가 2026년 8월 EU AI Act 시행과 함께 운영 일부를 멈추고 문서화에 6개월을 추가한다. 과징금까지 가는 사례는 드물지만 운영 중단 자체로도 ROI가 마이너스가 된다.

넷째 시나리오, 전략적 후퇴 — EB급을 포기하고 PB 미만 환경으로 재설계. 핫 티어 최적화에 집중. 비용은 가장 적지만 미래 확장성이 좁아진다. 단 대부분 기업에 가장 합리적인 선택일 가능성이 높다.

이 네 시나리오 사이에는 봉합되지 않는 모순이 있다. 어느 쪽을 먼저 들어줘야 하는지를 결정하는 일이 곧 전략 그 자체다.