AI 뉴스를 하루치만 모아봐도 방향이 보인다. NH농협은행은 시스템 운영에 스스로 판단하는 ‘에이전틱 AI’를 붙이고, 한독은 AI 플랫폼으로 지능형 공장을 세우며, 엔비디아 서버를 조립하는 폭스콘(Foxconn·훙하이정밀공업)은 AI 서버 수요로 분기 매출이 전년 대비 약 40% 뛰었다. 반대편에서는 중국 대학가에 스마트 안경을 낀 AI 부정행위가 번져 시험장에 금속탐지기가 등장했고, 특허청은 특허 빅데이터로 AI·우주·바이오 성장전략을 짠다.
무관해 보이는 다섯 사건은 사실 한 문장으로 묶인다. AI는 ‘무엇을 할 수 있는가(기능)’의 경쟁에서 ‘그것을 어떻게 감독·검증·회수할 것인가(운영)’의 경쟁으로 이미 넘어갔다. 이 글은 특정 제품 소개가 아니라, 이 다섯 장면을 교차해 AI 도입이 실제 업무·비용·책임 구조에 남기는 흔적을 실무자 눈높이로 해부한다. 결론부터 말하면, 2026~2028년의 승부는 최신 모델을 먼저 깔았는지가 아니라 그 모델의 ‘자율성 범위’를 얼마나 정교하게 잘라뒀는지에서 갈린다.
‘자동화’와 ‘에이전틱’을 가르는 건 예외 처리 방식이다
기존 RPA(로봇 프로세스 자동화)와 에이전틱 AI를 ‘둘 다 자동화’로 묶으면 도입 설계가 어긋난다. 결정적 차이는 예외를 만났을 때의 행동이다. RPA는 화면 좌표나 규칙이 어긋나는 순간 그냥 멈춰 담당자에게 넘긴다—오작동은 ‘정지’로 드러나므로 안전하다. 반면 에이전틱 AI는 장애 감지 → 로그 분석 → 원인 후보 도출 → 조치 실행으로 이어지는 흐름을 스스로 판단해 밀어붙인다. 문제는 잘못된 판단도 ‘멈추지 않고 실행’된다는 점이다. 즉 위험이 정지가 아니라 ‘자신 있는 오작동’ 형태로 나타난다.
그래서 금융 IT처럼 장애 1건이 수억 원대 손실·금감원 보고로 직결되는 영역에서는 ‘기능이 되느냐’보다 ‘자율 실행을 어디서 끊느냐’가 핵심 설계다. 실무에서 못 박아야 할 세 가지는 이렇다. 첫째, 작업을 자율 등급으로 나눠라—읽기·진단은 완전 자율, 설정 변경은 사람 승인, 결제·거래 관련은 자율 금지처럼 3단계로 쪼개는 방식이 현실적이다. 둘째, 모든 조치에 원클릭 롤백(원상복구) 경로가 있는지 확인하라. 되돌릴 수 없는 작업을 AI 자율 범위에 넣는 순간 리스크는 비대칭이 된다. 셋째, ‘왜 그렇게 판단했는가’를 사후 재현할 수 있는 감사 로그를 남겨라. 흔한 오해가 ‘에이전틱 = 사람 개입 제로’인데, 실제 운영 현장에서 표준에 가까운 건 여전히 조치 직전 사람이 승인하는 휴먼 인 더 루프(human-in-the-loop) 구조다. 완전 무인은 목표가 아니라, 신뢰가 쌓인 저위험 작업에서만 조금씩 허용되는 결과값이다.
지능형 공장의 진짜 변화는 인원 감축이 아니라 직무 이동이다
한독의 AI 기반 지능형 공장도 같은 문법으로 읽어야 한다. 제약·바이오 제조에서 품질 편차는 곧 규제 리스크이자 리콜 비용이며, 배치 한 건 폐기가 수천만~수억 원으로 튀는 일이 드물지 않다. 여기에 AI를 붙이는 목적은 사람을 걷어내는 게 아니라, 설비 센서 데이터에서 이상 징후를 불량이 확정되기 전에 잡아 편차를 줄이는 데 있다. 핵심은 ‘무인 공장’이 아니라 ‘데이터로 판단하는 공장’이다.
초보자가 가장 자주 틀리는 지점이 ‘지능형 = 인력 감소’라는 등식이다. 실제로는 수요가 사라지는 게 아니라 이동한다. 라인에서 눈으로 검사하던 인력은 줄어도, 모델이 뱉은 경고가 진짜 이상인지 오탐(false alarm)인지 판단하고 라인 정지 여부를 결정하는 인력은 오히려 는다. 도입 전 확인할 체크포인트는 세 가지다. ① 데이터 통합이 먼저다—10년 넘은 레거시 설비의 로그 포맷이 제각각이면 AI 이전에 데이터 표준화·수집 인프라에 예산의 상당 부분이 먼저 나간다. ‘AI 프로젝트’라고 부르지만 초기 비용의 절반 이상이 데이터 정비인 경우가 흔하다. ② 오탐 대응 권한과 책임을 사전에 정하라—경고가 떴을 때 라인을 멈출 권한이 현장 반장인지 품질팀인지 모호하면, 정확한 모델도 현장에서 무시당한다. ③ 규제 산업에서는 ‘설명 가능성’이 도입 속도를 좌우하는 실질 병목이다. 식약처·규제기관에 ‘AI가 왜 이 배치를 정상 판정했는가’를 재현·설명하지 못하면, 모델 성능과 무관하게 승인 자체가 막힌다. 블랙박스 성능이 아니라 설명되는 성능이 규제 산업의 통화다.
폭스콘 40% 성장은 AI를 쓰는 모든 기업의 청구서 예고편이다
폭스콘 2분기 매출이 약 40% 뛴 동력은 엔비디아(NVIDIA) 가속기를 얹은 AI 서버 수요다. 이 숫자를 개별 기업이 남 얘기로 넘기면 안 되는 이유는, 그 수요가 결국 GPU·AI 서버 공급 부족 → 클라우드 단가 상승 → 도입 기업의 월 청구서라는 사슬로 되돌아오기 때문이다. AI를 만드는 쪽의 호황은 AI를 쓰는 쪽의 원가다.
여기서 가장 많이 밟는 지뢰가 ‘파일럿은 싼데 운영은 비싸다’는 비용 곡선이다. 사내 시연 때는 담당자 몇 명이 프롬프트를 던지니 월 수만 원이면 되지만, 같은 기능을 전사 트래픽으로 열면 추론(inference) 비용이 요청 수만큼 곱해져 자릿수가 달라진다. 도입을 검토한다면 세 가지를 미리 계산하라. ① 요청당 토큰·연산 단가 × 실제 일일 요청 수 × 근무일로 월 추정치를 뽑아라—긴 문서를 통째로 넣는 RAG 구조는 요청당 토큰이 수천~수만 개로 불어 단가가 급등하니, 컨텍스트를 잘라 넣는 설계만으로도 청구서가 크게 달라진다. ② 자체 GPU 구매 대 클라우드 종량제의 손익분기를 따져라—사용률이 낮으면 종량제가, 24시간 고사용이면 자체 인프라가 유리해지는 구간이 실제로 존재한다. ③ 특정 클라우드·모델 공급사에 묶이는 종속(lock-in)을 경계하고, 프롬프트·데이터 파이프라인을 모델에서 분리해 갈아탈 여지를 남겨라. ‘모델은 거의 공짜인데 왜 이렇게 비싸냐’는 질문의 답은 대부분 이 인프라 청구서에 있다.
AI가 만든 새 비용은 ‘결과물이 진짜인지 검증하는 값’이다
중국 대학가에 금속탐지기가 등장한 사건은 얼핏 산업과 무관해 보이지만 본질은 정확히 같다. AI가 능력을 값싸고 은밀하게 ‘대행’해줄 수 있게 되면서, 조직은 ‘이 결과물이 정말 그 사람·그 시스템의 판단인가’를 검증하는 새로운 비용을 떠안았다. 시험장의 문제는 기업 사무실에 그대로 복제된다. 직원이 AI로 뽑은 코드·계약 검토·보고서가 실제로 검증됐는지, 그 과정에서 고객 정보나 미공개 실적이 외부 모델에 입력되지는 않았는지—이걸 관리하지 못하면 생산성 이득은 사고 한 건에 상쇄된다.
실무 체크포인트는 통제가 아니라 설계여야 한다. ① 사용 금지가 아니라 ‘허용 범위 + 검증 절차’를 정의하라—전면 금지는 음성적 사용을 키울 뿐이다. AI 초안은 허용하되 최종본은 사람 리뷰 필수처럼 단계를 나눠라. ② 결과물의 최종 책임 소재를 문서로 못 박아라. ‘AI가 그렇게 했다’는 실무에서 통하지 않는다. ③ 민감 데이터의 외부 모델 입력을 기술적으로 차단하는 DLP·프록시를 두고, 사내 로그로 실제 유입을 감사하라. 특허청이 특허 빅데이터로 AI·우주·바이오 전략을 짜는 사례는 정확히 반대편을 비춘다. 같은 AI라도 감시·부정의 도구가 아니라 방대한 데이터에서 전략 신호를 읽는 나침반으로 쓰면 산업 정책의 근거가 된다. 결국 AI의 가치는 모델 성능이 아니라 ‘어떤 규칙·검증·책임 구조 안에 놓느냐’에서 갈린다. 6개월~2년 관점의 승자는 가장 앞선 모델을 도입한 조직이 아니라, 그 모델을 감독·검증·회수하는 운영 체계를 가장 촘촘히 짜둔 조직일 것이다.
자주 묻는 질문
에이전틱 AI와 기존 RPA는 실제 업무에서 뭐가 다른가요?
결정적 차이는 예외 상황의 행동입니다. RPA는 규칙이 어긋나면 멈춰 사람에게 넘기지만, 에이전틱 AI는 스스로 판단해 조치까지 밀어붙입니다. 그래서 위험이 ‘정지’가 아니라 ‘자신 있는 오작동’으로 나타납니다. 도입 시 작업을 자율 실행 등급으로 나누고, 되돌릴 수 없는 작업은 자율 범위에서 빼는 설계가 핵심입니다.
AI 비용이 파일럿보다 운영 단계에서 급증하는 이유는?
시연은 담당자 몇 명이 쓰니 월 수만 원이면 되지만, 전사 트래픽으로 열면 추론 비용이 요청 수만큼 곱해져 자릿수가 달라집니다. 특히 긴 문서를 통째로 넣는 RAG 구조는 요청당 토큰이 급증합니다. 요청당 단가 × 일 요청 수 × 근무일로 월 추정치를 먼저 뽑고, 자체 GPU와 클라우드 종량제의 손익분기를 따져야 합니다.
지능형 공장을 만들면 공장 인력이 줄어드나요?
무인화보다 직무 이동에 가깝습니다. 눈으로 검사하던 인력 수요는 줄어도, 모델 경고가 진짜 이상인지 오탐인지 판단하고 라인 정지 여부를 결정하는 인력 수요는 늘어납니다. 오탐 발생 시 누가 라인을 멈출 권한과 책임을 갖는지 미리 정하지 않으면, 정확한 모델도 현장에서 무시당합니다.
금융·제약처럼 규제가 강한 산업에서 AI 도입이 유독 느린 이유는?
가장 큰 병목은 ‘설명 가능성’입니다. AI가 왜 그렇게 판단했는지 규제기관에 재현·설명하고 감사 추적할 수 있어야 하는데, 근거 로그가 없거나 모델이 블랙박스면 성능과 무관하게 승인이 막힙니다. 롤백 경로와 감사 로그 확보를 계약·설계 단계에서 조건으로 걸어야 합니다.