‘데모’에서 ‘인프라’로: 무엇이 실제로 달라지나
최근 OpenAI 관련 소식을 하나로 꿰면 방향이 또렷해진다. 삼성전자 같은 대기업이 임직원에게 ChatGPT와 코딩 도구 Codex를 배포하고, 스프레드시트 안으로 들어온 ‘Excel용 ChatGPT’가 재무 데이터에 연결되며, 팀과 기존 업무 도구를 잇는 협업 기능이 붙고, GPT-5.4류의 모델 갱신이 그 위에 얹힌다. 낱개 뉴스로 보면 산발적이지만 관통하는 축은 하나다 — 생성형 AI의 무게중심이 ‘가끔 열어보는 챗봇’에서 매일 켜두고 사내 데이터에 붙는 업무 인프라로 이동하고 있다는 것.
이 이동이 왜 중요한가. 도입의 성격 자체가 바뀌기 때문이다. 개인이 브라우저에서 몰래 쓰던 단계에서 보안·비용·책임은 개인의 몫이었지만, 전사 계정으로 배포되는 순간 이 셋은 전부 회사 장부로 넘어온다. 예컨대 직원 1만 명에게 좌석당 월 3만~4만 원대 기업 요금을 붙이면 라이선스만 연 40억~50억 원 규모이고, 여기에 도입·교육·보안 검토 인건비가 더해진다. 그래서 지금 실무자에게 필요한 질문은 ‘AI가 대단한가’가 아니라 ‘어떤 업무에, 어떤 조건에서, 얼마의 비용과 어떤 위험을 감수하고 붙일 것인가’다. 아래에서 최근 흐름을 근거로 그 판단 기준을 항목별로 쪼갠다.
개인 요금제와 전사 배포는 ‘다른 상품’이다: 삼성 사례가 드러내는 계약의 실체
한 사람이 월 20달러대 개인 유료 플랜을 쓰는 것과, 수만 명 조직이 엔터프라이즈 계약을 맺는 것은 이름만 같은 전혀 다른 의사결정이다. 대기업이 전 임직원에 ChatGPT·Codex를 배포한다는 건 기능을 사는 게 아니라 세 가지 ‘거버넌스’를 함께 사는 것이다. ① 입력 데이터를 모델 학습에 쓰지 않는다는 계약상 약정, ② 관리자용 접근 권한·감사 로그·SSO 연동, ③ 데이터 보관 위치·기간과 삭제 정책. 개인 요금제에 없는 이 세 층이 곧 기업 도입의 실체이고, 협상 테이블에서 실제로 값을 매기는 대상이다. 반대로 말하면, 이 세 가지가 계약서에 명시되지 않은 ‘전사 도입’은 도입이 아니라 방치다.
특히 Codex처럼 코드를 생성·수정하는 도구가 들어오면 신입~주니어 개발자의 일이 가장 먼저 재편된다. 보일러플레이트 작성, 테스트 초안, 문법·API 검색처럼 검색과 타이핑으로 채우던 시간이 줄어드는 대신, AI가 뱉은 코드를 읽고 의심하고 검증하는 리뷰 역량의 비중이 커진다. 여기서 흔한 오해가 둘이다. 첫째 ‘개발자가 대체된다’ — 실제로는 초안 생산 속도만 빨라질 뿐 요구사항 해석·아키텍처 결정·최종 검증 책임은 그대로 사람에게 남는다. 둘째 ‘AI가 짠 코드는 그럴듯하니 바로 병합해도 된다’ — 생성 코드는 겉보기엔 매끈해도 오래된 취약 패턴, 존재하지 않는 라이브러리 호출, 라이선스가 불명확한 스니펫을 품을 수 있어 리뷰 없는 병합은 그대로 기술 부채가 된다. 그래서 도입 효과를 ‘작성된 코드 줄 수’나 ‘체감 속도’로 재는 순간 착시에 빠진다. 봐야 할 지표는 첫 리뷰 통과율과 머지 후 재작업(revert·hotfix) 비율이다. 줄 수는 늘었는데 재작업 비율이 함께 뛰면 그건 생산성이 아니라 부채를 앞당겨 쌓은 것이다.
스프레드시트에 들어온 AI: ‘계산기’로 착각하면 사고가 된다
‘Excel용 ChatGPT’와 재무 데이터 결합처럼 AI가 표와 숫자 안으로 들어오는 흐름은 사무직 다수가 가장 먼저 체감할 변화다. ‘이 표에서 전분기 대비 증감률 뽑아줘’라고 자연어로 물으면 수식을 만들어 주는 방식은, VLOOKUP이나 배열 수식 앞에서 막히던 실무자의 진입장벽을 실제로 낮춘다. 시나리오 비교, 대량 데이터 요약, 리포트 초안 작성처럼 ‘틀은 잡되 정밀도는 나중에’인 작업에서 아낄 시간이 크다.
그러나 숫자를 다루는 영역일수록 함정이 깊다. 언어모델은 ‘계산’을 하는 게 아니라 ‘그럴듯한 다음 토큰’을 고를 뿐이라, 겉보기엔 완벽한 표에 조용한 오류(silent error)가 섞여도 경고음이 울리지 않는다. 그래서 원칙은 하나다 — AI를 ‘계산기’가 아니라 ‘빠른 초안 작성기’로 위치시켜라. 실무 체크포인트 셋. ① 금액·비율·합계처럼 틀리면 안 되는 값은 반드시 원본으로 역검증한다. 표본 검증이 아니라 합계·소계 대사(對査)로 전체 정합을 잡는 게 빠르다. ② AI가 만든 수식은 결과값이 아니라 ‘수식 그 자체’를 열어 참조 범위(예: SUM 범위에 헤더나 빈 행이 끼었는지)를 확인한다 — 결과 숫자만 보면 참조 오류를 절대 못 잡는다. ③ 결산·공시·세무처럼 책임이 따르는 문서는 AI 출력을 ‘초안’으로만 쓰고 최종 확정 서명은 사람이 한다. 실무 감으로는, 반복되는 정형 리포트일수록 AI에 맡기되 검산 체크리스트를 붙이고, 일회성·비정형 분석일수록 사람이 수식을 직접 잡는 편이 사고를 줄인다.
성능이 아니라 ‘연결과 통제’가 성과를 가른다: 협업 기능·GPT-5.4를 켜기 전에
최근 흐름의 두 축은 ‘모델 성능 향상(GPT-5.4류)’과 ‘기존 도구·팀과의 연결’이다. 그런데 실제 업무 성과를 가르는 건 벤치마크 점수가 아니라 연결의 깊이인 경우가 많다. 아무리 똑똑한 모델도 사내 문서·일정·티켓 시스템에 닿지 못하면 ‘맥락 없는 조언자’에 머물고, 반대로 회사 데이터에 연결되는 순간 유용성과 위험이 정확히 같은 크기로 커진다. 그래서 협업·연결 기능을 켜기 전 봐야 할 것은 성능 지표가 아니라 통제 항목이다. ① 어떤 데이터 소스에 접근 권한을 주고, 부서·역할별로 범위를 나눌 수 있는가, ② 대화·업로드 기록의 보관 기간과 삭제 정책은 무엇인가, ③ 외부로 나가는 데이터의 경로와 로그가 남는가.
도입 초기 가장 흔한 실패는 ‘전 직원 전면 개방’과 ‘최신·최고 모델이면 성과가 난다’는 믿음 두 가지다. 대부분의 사무 업무는 상위 모델의 미세한 성능 차보다 프롬프트 설계와 데이터 연결 품질에서 결과가 갈린다 — 모델을 5.3에서 5.4로 올려서 얻는 이득보다, 사내 위키와 제대로 연결하고 역할별 권한을 정리해서 얻는 이득이 대개 더 크다. 그래서 권장 순서는 명확하다. 소규모 파일럿(1~2개 팀, 2~4주) → 절감 시간·오류율·재작업 비율을 숫자로 측정 → 통제 정책 확정 → 단계적 확대. 파일럿에서 ‘무엇을 성공으로 볼지’를 먼저 정하지 않으면 확대 근거가 남지 않아 도입이 인상 평가로 끝난다. 6개월~2년 관점의 승부처는 결국 모델 자체가 아니라, 조직이 이 도구를 얼마나 안전하게 ‘자기 데이터’와 엮어 반복 가능한 업무 흐름으로 굳히느냐에 있다. 모델은 계속 바뀌지만, 잘 설계된 연결과 통제 체계는 그 위에서 오래 남는다.
자주 묻는 질문
회사가 ChatGPT 기업용(엔터프라이즈/팀)을 도입하면 내가 입력한 내용이 AI 학습에 쓰이나요?
일반적으로 엔터프라이즈·팀 계약은 입력 데이터를 모델 학습에 사용하지 않는 조건을 포함합니다. 다만 이는 요금제·계약마다 다르고, 개인 무료·유료 계정과는 데이터 처리 정책이 완전히 다릅니다. 핵심은 ‘기업용이니 안전하겠지’라고 넘겨짚지 말고, 우리 회사 계약서에 학습 미사용·보관 기간·삭제 정책이 명시됐는지 관리자에게 문서로 확인하는 것입니다. 정책이 확인되기 전에는 고객정보·미공개 재무 같은 민감 정보를 입력하지 마세요.
Codex 같은 AI 코딩 도구가 들어오면 신입 개발자는 필요 없어지나요?
아닙니다. 반복적인 코드 초안 작성 시간은 줄지만, AI가 내놓은 코드를 읽고 의심·검증하는 역량, 요구사항을 정확히 해석하는 능력, 아키텍처를 판단하는 역할은 오히려 더 중요해집니다. 역할이 ‘초안 생산은 AI, 해석·검증·책임은 사람’으로 재편된다고 보는 편이 정확합니다. 신입에게 요구되는 역량이 ‘빨리 짜기’에서 ‘틀린 코드를 알아보기’로 옮겨가는 것이 실질적 변화입니다.
Excel용 ChatGPT로 계산한 숫자를 그대로 보고서에 써도 되나요?
권하지 않습니다. 언어모델은 계산을 보장하지 않아 겉보기엔 완벽한 표에도 조용한 오류가 섞일 수 있습니다. 금액·비율·합계처럼 틀리면 안 되는 값은 원본 데이터로 역검증하되, 표본이 아니라 합계·소계 대사로 전체 정합을 확인하세요. 또 결과값이 아니라 수식 자체를 열어 참조 범위에 헤더나 빈 행이 끼지 않았는지 보고, 결산·공시처럼 책임이 따르는 문서는 사람이 최종 확정해야 합니다.
생성형 AI를 도입했는데 왜 생산성 향상이 체감되지 않나요?
대개 도구가 사내 데이터·업무 흐름과 연결되지 않은 채 ‘범용 챗봇’으로만 쓰이기 때문입니다. 성과는 모델 성능의 미세한 차이가 아니라 프롬프트 설계와 데이터 연결 품질에서 갈립니다. 또 ‘무엇을 성공으로 볼지’를 정하지 않고 도입하면 효과가 인상평가로 흩어집니다. 1~2개 팀·2~4주 파일럿으로 절감 시간·오류율·재작업 비율을 숫자로 먼저 측정하고, 반복 가능한 업무 흐름으로 정착시키는 단계가 빠지면 체감되지 않습니다.