AI를 잘 쓰는 기업보다, AI를 잘 통제하는 기업이 시장의 신뢰를 얻는 시대가 왔다.
영국 재무보고위원회(FRC)의 감사 가이드라인과 미국 캘리포니아 주정부의 공공조달 규정을 분석한 복수의 정책 브리핑에 따르면, 2025년을 전후해 AI 규제의 무게중심이 결정적으로 이동하고 있다. 개발 단계의 안전성 확보에 집중하던 초기 규제 논의에서 벗어나, 이제 각국 정부는 AI가 실제로 사용되는 현장 — 감사 업무, 공공 계약, 조달 절차 — 에서의 책임 소재를 명확히 하는 방향으로 나아가고 있다.
- 감사 현장에 들어온 규제: FRC의 AI 가이드라인
영국 FRC는 회계법인이 생성형·에이전트형 AI를 감사 업무에 활용할 경우, AI가 산출한 판단과 결과물까지 감사 책임 범위에 포함된다고 명시했다. AI는 단순한 효율화 도구가 아니라, 인간 감사인이 검토하고 통제해야 할 감독 대상으로 규정된 것이다. 독립성과 신뢰성을 훼손하지 않는 범위에서만 사용이 허용된다는 조건은, 사실상 AI 활용의 상한선을 제도적으로 설정한 것으로 해석된다. 전문가 책임이 AI의 판단에 의해 희석될 수 없다는 원칙이 처음으로 감사 기준에 명문화된 사례다.
- 조달 시장의 진입 조건으로 부상한 AI 거버넌스: 캘리포니아의 선택
캘리포니아 주정부는 공공 조달에 참여하려는 기업에 AI 오남용 방지 체계 구축을 계약 조건으로 의무화했다. 불법 콘텐츠 생성 방지, 알고리즘 편향 통제, 시민권 침해 방지 등 내부 통제 시스템을 갖추지 않으면 공공 계약 자체가 차단된다. AI 생성 이미지와 영상에 대한 워터마크 의무화와 향후 도입 예정인 공급업체 인증 제도는, AI 거버넌스 수준이 기업의 시장 접근성을 좌우하는 경쟁 변수로 전환되고 있음을 보여준다.
- 한국 기업에 주는 함의
두 사례의 공통점은 규제가 'AI 자체'가 아니라 'AI를 사용하는 조직의 책임 구조'를 겨냥하고 있다는 점이다. 한국 기업, 특히 글로벌 감사·컨설팅 서비스를 제공하거나 해외 공공 조달 시장에 진출하려는 기업은 이 변화를 기술 문제가 아닌 거버넌스 문제로 접근해야 한다. AI 도입 여부보다 AI 통제 체계의 완성도가 계약 수주와 신뢰 확보의 기준이 되는 시대가 이미 시작됐다. 국내에서도 금융감독원과 조달청 등 규제 기관이 유사한 방향으로 기준을 강화할 가능성을 배제할 수 없으며, 선제적 내부 통제 체계 정비가 요구된다.
#AI거버넌스 #AI규제 #FRC #캘리포니아AI규정 #감사AI #공공조달 #AI책임 #ESG #기업리스크 #한국기업 #디지털전환
