2025년 하반기 이후 기업들의 생성형 AI 대응은 겉보기에 정반대로 갈라진다. 한쪽에서는 중국 알리바바가 ‘보안 위험’을 이유로 미국 앤트로픽의 개발용 AI 도구 클로드코드(Claude Code) 사내 사용을 제한했다고 알려졌고, 글로벌 투자은행 골드만삭스도 홍콩 법인에서 클로드(Claude) 사용을 막았다는 보도가 나왔다. 반대쪽에서는 OpenAI가 기업 도입 사례를 잇달아 공개하고, 호주연방은행(CBA·Commonwealth Bank of Australia)처럼 전사 차원에서 AI를 확대하는 금융기관이 등장한다.
흔히 이걸 ‘AI를 두려워하는 회사 vs 앞서가는 회사’의 대결로 읽지만, 그 프레임은 틀렸다. 금지한 곳도 AI를 버린 게 아니고, 확대한 곳도 리스크를 무시한 게 아니다. 두 진영은 같은 질문—’우리가 통제할 수 있는 경로인가’—에 조직 조건이 달라 다른 답을 냈을 뿐이다. 이 글은 도구의 우열을 가리지 않는다. 서로 반대로 움직인 사례를 교차 비교해, 독자가 자기 조직에서 도입 여부를 판단할 때 실제로 저울에 올려야 할 변수—데이터 흐름, 법역, 비용 구조, 거버넌스—를 판단 순서까지 포함해 정리한다.
금지는 ‘AI 거부’가 아니라 ‘경로 차단’이다
알리바바와 골드만삭스 조치에서 반복되는 키워드는 ‘데이터’와 ‘지정학’이다. 표면 사유는 보안이지만 실체는 세 겹이다. 첫째, 데이터 이탈. 소스코드·미공개 재무·고객정보가 외부 AI 서버로 한 번 나가면, 그 데이터가 어디 저장되고 학습에 재사용되는지 회사가 검증할 수단을 잃는다. 둘째, 지정학. 미국 기업이 만든 모델을 중국 기업이 핵심 개발 인프라에 심는 것 자체가 공급망·수출통제 관점의 부담이 된다. 셋째, 법역(jurisdiction). 홍콩 금융업처럼 데이터 국외 이전과 감독당국 요건이 촘촘한 환경에서는 외부 클라우드 AI 사용이 곧 컴플라이언스 리스크로 번역된다. 골드만삭스가 ‘전사’가 아니라 ‘홍콩 법인’만 제한한 것이 이 세 번째 층을 정확히 보여준다.
여기서 반드시 깨야 할 오해가 있다. ‘금지 = AI를 안 쓴다’가 아니다. 대형 조직의 실제 대응은 특정 외부 서비스만 차단하고, 내부망에서 도는 자체 모델이나 온프레미스(on-premise) 배포로 갈아타는 경우가 많다. 정확한 번역은 ‘이 도구를 못 쓴다’가 아니라 ‘통제 밖 경로로는 못 쓴다’이다. 그래서 실무자가 도구 하나를 볼 때 확인할 네 가지는 이렇다. ① 입력 데이터가 모델 학습에 재사용되는가(계약상 opt-out 여부), ② 전송·저장 구간이 암호화되는가, ③ 데이터 처리 리전과 보관 기간이 계약서에 박혀 있는가, ④ 누가 언제 무엇을 넣었는지 감사 로그를 뽑을 수 있는가. 이 넷 중 하나라도 ‘모른다’가 나오면, 규제 산업에서 금지는 겁이 아니라 계산된 선택이다.
확대하는 곳은 ‘용감’한 게 아니라 ‘순서’가 다르다
OpenAI가 공개한 도입 사례와 호주연방은행의 확대 움직임은 반대 논리를 보여준다. 이들은 리스크가 없어서 넓힌 게 아니라, 통제 구조를 먼저 세우고 그 위에서 규모를 키운다. 은행처럼 규제가 강한 조직이 전사로 넓힐 때 쓰는 공식은 대개 ‘엔터프라이즈 계약 + 데이터 격리 + 용도 제한’의 3종 세트다. 개인이 웹에서 쓰는 소비자용과 달리, 기업 계약에는 입력 데이터를 학습에 쓰지 않는다는 조항, 전용 처리 환경, 접근 권한·로그 관리가 기본값으로 깔린다. 즉 앞 섹션의 ‘경로 차단’ 기준을 계약으로 미리 통과시켜 놓은 것이다.
확대 사례에서 뽑을 실무 포인트는 ‘전면 도입’이 아니라 ‘용도 선별’과 ‘증명 후 확장’이다. 순서는 대개 이렇다. 고객 개인정보·미공개 재무처럼 오류·유출 비용이 큰 업무는 뒤로 미루고, 내부 문서 요약·회의록 정리·1차 코드 초안·마케팅 카피처럼 사람이 반드시 최종 검수하는 저위험 업무부터 연다. 다만 여기 큰 함정이 있다. 도구를 깔았다고 성과가 나오지 않는다. 사용 가이드라인, 프롬프트 교육, 검수 프로세스, 성과 지표 이 넷이 없으면 도입은 ‘체험판 배포’로 끝난다. 확대에 성공하는 조직은 5~10명 규모 파일럿 팀에서 작업시간 단축률·재작업 비율 같은 숫자를 먼저 뽑고, 그 숫자가 나온 업무에만 단계적으로 예산을 붙인다. ‘전사 도입 발표’가 아니라 ‘검증된 업무의 누적’이 진짜 확대다.
두 갈래를 가르는 네 가지 조건
금지와 확산을 나누는 건 기술의 좋고 나쁨이 아니라 조직이 처한 조건이다. 결정 변수는 네 축으로 정리된다. ① 규제 강도—금융·의료·공공은 구조적으로 보수적일 수밖에 없다. ② 데이터 민감도—소스코드·개인정보·미공개 정보를 다룰수록 제한이 커진다. ③ 법역과 본사-지사 관계—국외 이전 규제와 관할이 지역별로 허용 범위를 다르게 만든다. ④ 대체재 유무—내부 모델이나 온프레미스 옵션이 있으면 차단이 쉽고, 없으면 금지가 곧 업무 중단이라 함부로 못 막는다. 알리바바가 개발 도구를 끊을 수 있던 배경에는 자체 AI 모델이라는 ④번 조건이, 골드만삭스 홍콩 제한에는 ①③번 조건이 깔려 있다. 즉 같은 사건도 어느 조건이 지배적이냐로 해석이 갈린다.
그래서 판단은 감이 아니라 순서로 해야 한다. (1) 도입 대상 업무를 데이터 민감도 상·중·하로 분류한다. (2) ‘하’부터 외부 도구 파일럿을 허용하되, ‘상’은 격리 계약이나 온프레미스가 확보될 때까지 보류한다. (3) 계약서에서 학습 미사용·데이터 삭제·처리 리전 조항을 ‘구두 약속’이 아니라 문서로 확인한다. (4) 3~6개월 파일럿의 지표로 확대 여부를 결정한다. 초보자가 가장 자주 하는 실수는 비용을 라이선스 요금으로만 잡는 것이다. 실제 총비용(TCO)에는 검수 인력 시간, 보안 검토, 재작업, 잘못된 출력이 유발하는 리스크가 더 붙는다. 사용료가 월 몇만 원이라도 검수에 사람 반나절이 매일 들어가면 계산이 뒤집힌다. 이 항목을 빼놓으면 도입 6개월 뒤 ‘왜 생각보다 안 남지’라는 물음에 반드시 부딪힌다.
실무자 체크리스트와 6개월~2년 관점
개인 실무자가 당장 지킬 것은 단순하고 명확하다. 첫째, 회사가 승인하지 않은 도구(이른바 섀도 AI)에 업무 데이터를 붙여 넣지 않는다. 둘째, 사내에서 무엇이 ‘민감’으로 분류되는지 정책 문서를 직접 확인한다—대개 개인정보·미공개 재무·소스코드·계약서가 여기 들어간다. 셋째, AI 출력을 사실 검증 없이 그대로 쓰지 않는다. 특히 코드·계약·재무처럼 틀렸을 때 비용이 큰 영역일수록 ‘AI 초안 + 사람 검수’를 예외 없는 원칙으로 둔다. 관리자라면 답은 전면 금지도 무제한 허용도 아니다. 승인된 도구만 열어 두는 허용목록(allowlist) 기반 통제가 현실적인 중간지대이고, 여기에 ‘누가·어떤 데이터를 넣었는지’ 로그가 붙어야 사후 감사가 가능하다.
6개월~2년 관점에서 비교적 확실한 흐름은 둘이다. 하나, 소비자용과 기업용 AI의 분리가 더 굳어진다. 학습 미사용·데이터 격리·감사 로그를 계약으로 보장하는 엔터프라이즈 옵션이 ‘있으면 좋은 것’에서 ‘없으면 도입 불가’인 사실상 전제로 이동할 가능성이 크다. 둘, 지정학 변수의 상시화다. 어느 나라 기업이 만든 모델인지가 계속 판단의 한 축으로 남으면서, 조직마다 ‘허용/제한 모델 목록’을 유지·갱신하는 일이 특별 이벤트가 아니라 일상적 거버넌스 업무로 자리 잡을 것이다. 결국 지금 던져야 할 질문은 ‘AI를 쓸까 말까’가 아니다. ‘어떤 데이터를, 어떤 계약과 통제 아래, 어떤 업무부터 열 것인가’—이 세 갈래를 문서로 답할 수 있느냐가 도입의 성패를 가른다.
자주 묻는 질문
알리바바가 클로드코드를 막았다는데, 그럼 그 도구가 위험하다는 뜻인가요?
도구 자체의 결함이라기보다 ‘통제할 수 없는 데이터 경로’에 대한 조치로 보는 게 정확합니다. 소스코드가 외부 AI 서버로 나가는 구조, 미·중 기술 갈등이라는 지정학적 부담, 자체 AI 모델이라는 대체재 보유가 겹친 결과입니다. 같은 도구라도 데이터 격리 계약과 감사 로그 같은 통제 수단이 갖춰지면 다른 조직에서는 정상적으로 쓰입니다. ‘위험한 도구’가 아니라 ‘검증되지 않은 경로’가 핵심입니다.
골드만삭스는 왜 전사가 아니라 홍콩에서만 클로드를 막았나요?
보도에 따르면 특정 법역(홍콩)의 규제·데이터 관할 환경이 핵심 배경입니다. 금융업은 고객 데이터의 국외 이전과 감독당국 요건이 지역마다 크게 달라, 같은 회사여도 법인별로 허용 범위가 갈릴 수 있습니다. 이는 ‘전사 금지’가 아니라 ‘조건이 다른 지역에서의 선별적 제한’에 가깝고, 규제·법역 변수가 도입 판단을 어떻게 지역 단위로 쪼개는지 보여주는 사례입니다.
우리 회사도 생성형 AI를 도입하려는데 무엇부터 봐야 하나요?
먼저 업무를 데이터 민감도 상·중·하로 나누고 ‘하’부터 파일럿을 시작하세요. 계약서에서 입력 데이터 학습 미사용, 처리 리전, 삭제·감사 로그 조항을 구두가 아닌 문서로 확인하는 게 우선입니다. 개인정보·미공개 재무·소스코드 같은 ‘상’ 등급은 격리 환경이나 온프레미스가 확보될 때까지 보류하세요. 비용은 라이선스 요금만이 아니라 검수 인력·재작업까지 포함한 총비용으로 계산해야 실제 손익이 보입니다.
소비자용 AI와 기업용(엔터프라이즈) AI는 실제로 뭐가 다른가요?
핵심은 데이터 취급과 계약 보장입니다. 기업용은 보통 입력 데이터를 학습에 쓰지 않는다는 조항, 전용·격리 처리 환경, 접근 권한과 감사 로그 관리가 기본 제공됩니다. 반면 개인이 웹에서 쓰는 소비자용은 이런 보장이 약하거나 없을 수 있어, 업무 데이터를 넣는 용도로는 부적합할 수 있습니다. 회사 데이터를 다룬다면 ‘무료냐 유료냐’보다 ‘학습 미사용·격리·로그가 계약에 있느냐’를 봐야 합니다.
AI 도구를 도입했는데 성과가 안 나는 이유는 뭔가요?
도구 설치가 곧 성과가 아니기 때문입니다. 사용 가이드라인, 프롬프트 교육, 출력 검수 프로세스, 성과 지표 이 넷이 없으면 ‘체험판 배포’에 그칩니다. 또 비용을 라이선스 요금으로만 잡고 검수 인력·재작업·보안 검토 같은 숨은 비용을 빼면 기대만큼 남지 않습니다. 5~10명 규모 파일럿에서 작업시간 단축률·재작업 비율 같은 숫자를 먼저 확인하고, 검증된 업무에만 단계적으로 확대하는 방식이 효과적입니다.