미국·한국 기업은 AX를 어떻게 실행하는가

AX EXECUTION · 美 4社 · 韓 2社

미국·한국 기업은
AX를 어떻게
실행하는가

"모델 도입"이 아니라 "운영 전환"으로 수렴하는 AX — 6社 심층 분석

PEC · 심층 분석 보고서

02 "AX = LLM 도입"이라는 오해

대부분 "LLM을 어디에 붙일까?"부터 묻습니다

흔한 질문

"어떤 모델을
어디에 붙일까?"

도구 선택이 출발점 — 운영 문제는 뒤로 밀린다.

선도 기업의 진짜 질문

어떤 운영 문제를,
어떤 데이터로,
어떤 책임 구조·KPI로 개선할까?

오늘은 그 질문에 가장 일관되게 답한 6개 기업을 봅니다.

03 오늘 다룰 것

PART 1

AX의 정의와
공통 운영 모델

PART 2

6社 전체 사례
+ 한눈에 비교

PART 3

인사이트 및
총정리

정의 → 6社 사례 → 공통 패턴

04 PART 1 · AX는 하나가 아니다

기업이 말하는 AX는 세 갈래로 나뉩니다

① 업무·운영 전환형

AI를 내부 IT·운영·고객지원에 도입해 운영을 재설계 — Microsoft · JPMorgan · Walmart

② 플랫폼형

제품별 AI 실험을 사내 공통 운영체계로 흡수 — Intuit · LG CNS

③ 사업모델 재편형

통신 → AI DC·B2B·B2C로 사업 자체를 이동 — SK텔레콤

05 공통 운영 모델 — 중앙 플랫폼 ↔ 현업 소유권

이사회 / CEO

AI Steering Council · Responsible AI

CDAO / CTO / AI Acceleration 리더

중앙 · 공통 플랫폼 팀

데이터 레이어 · RAG · 평가 · LLMOps · 보안 가드레일

현업 · 사업부 AI 오너

도메인 Use-case Squad · KPI·ROI 운영 리뷰

중앙 거버넌스만으론 부족 — 현업 책임·KPI 연결이 필수

06 AX는 기술 프로젝트가 아니다 — 변화관리

채택을 만드는 건 조직·교육·운영 리듬

Intuit

사내 해커톤 + Starter Kit 배포로 수천 명 기술조직 실험 속도

Walmart

현장 직원 앱에 AI 내장 → 대규모 현업 채택 유도

LG CNS

즉시 써볼 핵심기능 + 피드백 수집 + 교육·캠페인

결국 조직 설계 + 교육 + 운영 리뷰 리듬의 문제

07 PART 2 · Microsoft — "Customer Zero"

내부 선행 도입

환류

청사진을 제품·고객에

이니셔티브

M365 Copilot 사내 적용 · 법무 Copilot
AI councils 기반 기업 내 AI 배치
책임있는 AI 심사 프로세스 내재화

거버넌스

Office of Responsible AI (정책·법률)
Responsible AI Council (K.Scott·B.Smith)
모든 AI initiative에 impact assessment

Microsoft Digital이 공동개발·배포·거버넌스·채택을 동시에 담당

08 Microsoft — AI Value Framework (6축)

매출생산성·효율 보안·리스크직원·고객 경험 품질비용절감

32%

법무 대응 가속

87%

생산성 향상 보고

77%

품질 향상 보고

~800억$

FY25 AI DC 투자계획

핵심: 도입률보다 측정 가능한 가치 + 거버넌스 · 월간 운영 리뷰로 추적

09 JPMorgan Chase — 은행 운영에 AI 내재화

신용·사기·개인화·개발·운영·리스크에 통합

400+ AI/ML use case · AI 가치 전년比 약 60%↑ · 운영부문 2030년 40%+ 생산성 목표

거버넌스

CDAO를 Operating Committee에 배치 + 독립 모델리스크기능(MRGR) — 거버넌스는 확장 조건

전제조건 ★

AI-ready 데이터 — 퍼블릭 클라우드 분석 에스테이트 · 실시간 스트리밍

10 Walmart — Element 플랫폼 + 현장 AI

고객·상품·매장·직원을 하나의 소매 운영모델로

Element

쿠버네티스 기반 멀티클라우드·멀티리전 MLOps — 벤더종속·비용·가용성 리스크↓

상품 카탈로그

수십억 데이터포인트를 단일 SoT로 — 2단계 멀티에이전트(LLM 추출 + QC LLM)

성과: 150만 직원 AI · 근무계획 90→30분 · 주 90만 사용자·일 300만 질의 · 44개 언어 번역

11 Intuit — GenOS, done-for-you 전환

"도와주기"를 넘어 AI+전문가가 작업을 대행

GenOS — 사내 공통 플랫폼

GenStudio / Runtime / UX · 금융 LLM · 자동 평가 서비스 · 보안·리스크 제어(GenSRF)

적용

QuickBooks 미수/미지급 처리 · TurboTax 세법 자동변환 후 전문가 검토

성과 ★

고객 45%가 월 12시간 절감 · 90%가 30일 내 마이그레이션

12 SK텔레콤 — "Global AI Company" 전환

통신회사 → AI Pyramid 2.0 (AI DC · AI B2B · AI B2C)

AI DC

GPUaaS · 자체 DCIM · 모듈형 데이터센터

서비스

A.Dot · 글로벌 에이전트 Aster · A.X 4.0+GPT-5 · A. Biz

조직

분산 AI 역량 → AI CIC 재편 · 이사회·ESG위 감독

3Q25 AIX 매출 557억 · FY25 AIDC 매출 5,199억 (+34.9%)

13 SK텔레콤 — 보안이라는 변수

전환의 속도는 신뢰에 종속된다

!

AI 전용 투자액은 분리 공시되지 않음

!

사이버보안 사고 후 5년 7,000억원 정보보호 투자 계획 공개

!

보안·신뢰 이슈가 AX 모멘텀을 역전시킬 수 있다

정보보호 투자는 AX 확장의 전제조건인 "신뢰·보안 복원 비용"으로 해석해야

14 LG CNS — 실행형 엔터프라이즈 AX

고객 AX 플랫폼 + 내부 개발 AX를 동시에

AX Consulting

AI Readiness → AX Discovery → Master Plan

AX Platform

RAG · 벡터DB · LLMOps/LVMOps · Knowledge Lake · 통합 거버넌스

개발·업무

DevOn AIND (설계·코드·테스트·QA) · a:xink (망분리 환경 지원)

15 LG CNS — 개발 생산성 (서강대 공동연구)

26.1%

DevOn AIND

vs

14.1%

범용 도구 (Copilot·Codium)

약 2배

산업별: 금융 23.1% · 제조 15.5% · 화학 11.0% · 전자 6.3% · 배터리 4.2%

Google Cloud 협업으로 제조·금융·헬스케어 등 수백 개 생성형 AI 서비스 구축

16 6社 한눈에 — 비교 표

기업	산업	AX 정의	조직 구조	핵심 프로젝트	성과	투자 단서
Microsoft	SW·클라우드	Customer Zero 전사 전환	AI councils + ORA	M365 Copilot · AI Value FW	법무 32%↑·생산성 87%	~800억$
JPMorgan	금융	운영·리스크·개인화	CDAO + LOB + MRGR	400+ use case · GenAI	AI가치 +60%·운영 40%↑	~198억$
Walmart	리테일	소매 운영 통합	EVP AI Acceleration	Element · Sparky · 150만	근무 90→30분·44개 언어	CAPEX 238~266억$
Intuit	핀테크	done-for-you 에이전트	중앙 GenOS 플랫폼	GenOS · Assist · agents	45% 월12h·90% 30일내	R&D 29억$
SK텔레콤	통신·AI	Global AI Company 재편	AI DC/B2B/B2C · AI CIC	GPUaaS · A.X · AIDC	AIDC 5,199억(+34.9%)	미공시
LG CNS	IT서비스	전략~엔지니어링 실행형	AI Cloud BD · DIC	AX Platform · a:xink · AIND	개발 생산성 26.1%	미공시

한국 2社는 AI 전용 투자액 미공시 — 매출·플랫폼 전략으로만 스케일 추정

17 PART 3 · 시간축으로 본 흐름

파일럿이 아니라 운영모델 재설계 단계로

2023

플랫폼 착수

GenOS 공개 · Element / 소매 LLM 확대

2024

조직 재편·표준화

AI Pyramid 재편 · AI councils · 일부 기술기능 corporate화

2025~26

확산 + ROI 관리 ★

150만 직원 롤아웃 · AI CIC 전환 · DevOn AIND 검증

생성형 AI가 파일럿 실험 → 운영 모델 재설계 단계로 이동

18 성공 패턴 4가지

플랫폼 우선

현업 소유권

AI-ready 데이터

정량 KPI 루프

GenOS·Element·AX Platform / 중앙+사업별 role / 속성·스트리밍·SoT / 시간·처리량·품질·비용회피 월단위

19 마찰 패턴 3가지

1

ROI 불명확 → 확산 지연 (MS가 측정 프레임을 따로 만든 이유)

2

도구·에이전트 난립 + 데이터 분절 → 확장의 적

3

보안·신뢰 이슈 → AX 속도 역전 가능 (SKT 사례)

Intuit·LG CNS는 평가·프롬프트 최적화·통합 플랫폼으로 ②를 흡수하려 한다

20 투자·ROI 관점

공시 범위 (직접 비교 어려움)

MS ~800억$ · JPM ~198억$ · Walmart CAPEX 238~266억$ · Intuit R&D 29억$ · 韓 2社 미공시

1차 ROI 지표 ★

시간 절감 · 처리량 · 품질 · 비용회피 · 채택률 · 위험 감소

재무지표보다 운영지표가 먼저 고도화 — "AI spend"보다 기술예산 중 AI 연동 비중·재사용률을 본다

21 규제는 이미 설계변수

"먼저 만들고 나중에 통제"는 끝났다

미국

NIST AI RMF (공통 언어) · 기업별 Responsible AI 표준

EU

AI Act — AI literacy 2025.2 · GPAI 2025.8 적용

한국

「AI 기본법」 — 진흥 + 신뢰 동시 제도화

영향평가·접근통제·인간검토·설명가능성·AI 생성물 표시가 운영 기본값

22 결론 — AX는 운영체계 설계 문제

성공 공식 ★

중앙 가드레일 + 현업 책임 + 데이터 준비 + 측정 프레임 (동시에)

한국

망분리 · 신뢰 · AI 인프라 · 정부정책 연동이 더 중요

미국

대규모 플랫폼 · 에이전트 · 현업 KPI 체계가 더 앞서

ROI는 재무보다 시간·품질·처리량·리스크 감소에서 먼저 나타난다

23 남은 빈칸 — Open Questions

1

대부분 기업의 AI 전용 CAPEX/OPEX 구분이 불가능

2

초기 AX의 실패 use-case·폐기율은 거의 공개되지 않음

3

한국 기업은 영어 공개자료 기준 조직도·MLOps·ROI가 덜 공개

후속: 연례보고서 원문 · 실적 콘퍼런스콜 · 기술 백서 · 규제보고서 교차검증 필요

TAKEAWAY

"LLM을 어디 붙일까"가 아니라 —

어떤 운영문제를,
어떤 데이터로,
어떤 책임구조·KPI로

여기까지가 사례입니다. 이제 우리 조직 차례입니다 →

25 그렇다면, 우리 조직의 AX는 무엇이어야 하는가?

사례에서 반복된 AX의 공통 공식

AX = 운영문제 × 데이터 × 책임구조 × KPI × 가드레일

이제 'AI로 뭘 만들까?'가 아니라,
우리 조직의 어떤 운영문제를 어떤 구조로 바꿀 것인가를 정의합니다.

재밌는 AI 활용 아이디어 ✕ → 조직 운영 전환 ○

26 PART 4 · 우리 조직의 AX 정의하기 ⏱ 총 35분

우리 조직의 AX 정의 만들기

목표: 'AX'와 '단순 AI 활용'을 구분하는 기준 만들기

3분	사례 공통 공식 회수	AX = 운영문제 × 데이터 × 책임구조 × KPI
5분	개인 작성	각자 보는 핵심 운영문제
10분	팀 토론	AX 정의 문장
7분	AX / Not AX 구분	기준 명확화
10분	팀 발표	팀별 AX 정의

27 0단계 · 강의 프레임 회수 ⏱ 3분

활동: 사례 공통 공식을 빈칸 문장으로 머릿속에 고정하기

6社는 달랐지만 공통점은 하나 — 모델 도입이 아니라 운영 전환

우리 조직의 AX는
______ 운영문제를 ______ 데이터로 해결하고,
______ 책임구조 아래, ______ KPI로 검증하는 것이다.

28 1단계 · 개인 생각 쓰기 ⏱ 5분

활동: 우리 조직의 핵심 운영문제를 4개 질문에 따라 개인이 직접 적기

팀 토론 전, 개인이 먼저 적는다 — 목소리 큰 사람 쏠림 방지

1

우리 조직에서 가장 큰 운영문제는 무엇인가?

2

그 문제는 왜 반복되는가?

3

해결하려면 어떤 데이터/문서/이력이 필요한가?

4

개선됐다는 것을 어떤 지표로 증명할 수 있는가?

주의: 일부러 'AI'라는 단어를 뺀다 — 도구 아이디어로 흐르는 것 방지

29 2단계 · 팀 토론: AX 정의 문장 1개 ⏱ 10분

활동: 빈칸 템플릿을 채워 팀의 AX 정의 문장 1개 완성하기

팀 목표는 단 하나 — 우리 조직의 AX 정의 문장 1개

우리 조직에서 AX란,
________ 운영문제를
________ 데이터·지식 기반으로
AI와 사람이 함께 처리하도록 바꾸고,
________ 책임구조 아래
________ KPI로 검증하는 운영 전환이다.

30 2단계 예시 · 작성된 AX 정의 샘플

EXAMPLE

우리 조직에서 AX란,
반복적으로 발생하는 보고·검토·승인 병목을
사내 문서, 업무 이력, 기준서 데이터 기반으로
AI가 1차 정리·검토·초안을 수행하고
현업 오너와 IT/보안이 함께 관리하며
처리시간, 재작업률, 품질, 리스크 감소로 검증하는 운영 전환이다.

31 3단계 · AX인 것 vs AX가 아닌 것 ⏱ 7분

활동: 팀별로 AX인 사례·아닌 사례 각 2개씩 작성 후 이유 한 줄 설명

정의만으론 추상적 — 구분 연습이 핵심

AX 이다 ○

업무흐름·책임자·데이터·KPI가 함께 바뀐다
보고 시간이 줄고 검토 품질이 측정된다
프로세스에 AI 검토 단계가 공식 편입된다

AX 아니다 ✕

ChatGPT를 잘 쓰는 사람이 늘어난다
프롬프트 모음집을 배포한다
데모용 챗봇을 만든다

팀별로 2개씩 작성

32 3단계 · 발표 문장

우리 팀 기준에서 AX인 것은 ______이고,
AX가 아닌 것은 ______입니다.
차이는 ______입니다.

33 4단계 · 팀별 2분 발표 ⏱ 10분

활동: 발표 템플릿을 채워 AX 정의를 팀당 2분 발표

길게 말하지 않는다, 팀당 2분

우리 팀이 정의한 AX는 ______입니다.
핵심 운영문제는 ______, 필요한 데이터는 ______,
책임 주체는 ______, 성공 KPI는 ______입니다.
그래서 단순히 ______하는 것은 AX가 아니고,
______까지 바뀌어야 AX라고 봅니다.

34 발표 코멘트 — 실행 가능한 정의인가?

멋진 문장이 아니라 실행 가능한 정의인지만 본다

운영문제

무엇을 바꾸려는지 분명한가

데이터

AI가 참고할 근거가 있는가

책임자

누가 운영·검토할지 보이는가

KPI

성공을 측정할 수 있는가

4개가 없으면 — "좋은 말이지만 AX 정의로는 약하다"

35 PART 5 · 우리 팀 AX 후보 업무 선정하기 ⏱ 총 40분

기준에 맞는 실험 대상 고르기

'AI로 할 수 있는 일' ✕ → '운영 방식이 바뀔 만한 업무' ○

7분	개인별 후보 3개 작성	후보 업무 목록
8분	운영문제로 재정의	문제 문장
10분	점수화	우선순위
5분	최종 후보 1개 선택	AX 후보 업무
10분	팀 발표	다음 실습 대상 확정

36 질문부터 바꾼다

나쁜 질문 ✕

"AI를 어디에 쓰면 좋을까요?"

회의록 요약 · 메일 초안 · 챗봇 · 자료 조사… 나쁘진 않지만 너무 얕다.

좋은 질문 ○

반복적으로 발생하고, 사람이 읽고 판단·정리·전달하지만, 기준과 데이터가 있어 AI가 일부를 맡을 수 있는 업무는?

37 1단계 · 후보 업무 많이 뽑기 ⏱ 7분

활동: 아래 카테고리를 참고해 개인별 AX 후보 업무 3개 이상 작성

"내가 귀찮은 일" ✕ / "팀 운영에 영향 주는 반복 업무" ○

보고	주간 보고 · 임원 보고 · 프로젝트 현황 보고
검토	품의서 사전 검토 · 계약서 체크 · 보안 체크리스트
운영	요청 분류 · 담당자 배정 · 진행 상황 추적
문의	VOC 분류 · FAQ 응답 · 이슈 우선순위화
개발·IT	요구사항 정리 · 테스트케이스 생성 · 장애 리포트 요약
인사·교육	교육 결과 정리 · 역량 진단 · 온보딩 자료 생성
영업·마케팅	제안서 초안 · 고객사 리서치 · 캠페인 성과 요약

38 2단계 · 운영문제로 바꾸기 ⏱ 8분

활동: 후보 업무 3개를 "운영 병목 문장"으로 재정의하기

"무엇을 만들까" ✕ → "어떤 운영 병목을 줄일까" ○

보고서 작성 자동화	→	보고 자료가 흩어져 매주 취합 시간이 과도하다
회의록 요약	→	회의 후 액션아이템이 누락되고 담당자 추적이 어렵다
문의 챗봇	→	반복 문의 유입으로 고부가 업무 시간이 줄어든다
품의서 검토	→	제출 전 누락 항목으로 반려·재작업이 반복된다
VOC 분석	→	불만은 쌓이나 원인·우선순위 분류가 늦다

39 3단계 · 후보 업무 점수화 ⏱ 10분

활동: 3~5개 후보를 8개 기준으로 각 1~5점 채점 후 상위 업무 선별

3~5개 후보를 8개 기준으로 각 1~5점

반복성	자주 발생하는가?	1~5
시간 소모	많은 시간이 들어가는가?	1~5
판단 포함	단순 작업이 아니라 판단/분류/검토가 있는가?	1~5
데이터 준비도	참고할 문서·규정·이력·사례가 있는가?	1~5
측정 가능성	시간·품질·비용·리스크 개선을 측정할 수 있는가?	1~5
현업 소유권	우리 팀이 실제로 바꿀 권한이 있는가?	1~5
리스크 통제	사람이 검토하면 안전하게 실험 가능한가?	1~5
확산 가능성	다른 팀에도 적용할 수 있는가?	1~5

40 총점의 함정 — 이 3개를 보라

총점 높다고 무조건 고르면 안 된다

반드시 봐야 할 3개 — 데이터 준비도 · 측정 가능성 · 현업 소유권

실습 부적합 ✕

"전사 ERP 자동화" — 중요하지만 교육 현장에서 실습 어렵다

실습 적합 ○

"품의서 제출 전 누락 항목 체크" — 작지만 실습에 적합

41 4단계 · 최종 후보 1개 선택 ⏱ 5분

활동: 점수 상위 업무 중 최종 1개를 팀 합의로 선정하고 발표 문장 채우기

여러 개 고르면 뒤 단계가 흐려진다 — 1개만

우리 팀의 AX 후보 업무는 ______입니다.
현재 문제는 ______, 반복 이유는 ______,
AI가 맡을 부분은 ______,
사람이 반드시 판단할 부분은 ______,
성공은 ______로 측정하겠습니다.

42 5단계 · 팀별 발표 ⏱ 10분

활동: 선정한 AX 후보 업무를 발표 템플릿으로 팀당 2분 발표

발표 템플릿 — 팀당 2분

우리 팀은 ______ 업무를 AX 후보로 선정했습니다.
이유는 세 가지 — 첫째 ______ 문제가 반복,
둘째 ______ 데이터/문서/이력이 존재,
셋째 ______ KPI로 측정 가능.
AI는 ______을 맡고, 사람은 ______을 판단합니다.

43 두 활동의 연결 — 정의가 후보의 필터다

AX 정의 (Part 4)

우리 조직에서 AX란,
__ 운영문제를 __ 데이터 기반으로
AI와 사람이 함께 처리하도록 바꾸고
__ 책임구조 아래 __ KPI로 검증하는 운영 전환이다.

AX 후보 업무 (Part 5)

우리 팀의 AX 후보 업무는 ______이다.
이 업무는 우리가 정의한 AX 기준 중
__ 운영문제, __ 데이터,
__ 책임구조, __ KPI에 부합한다.

발표 때 반드시 "앞 정의와 어떻게 연결되는지" 말하게 한다

44 짚어야 할 포인트들

참가자가 "AI 기능"으로 갈 때 — 이 질문으로 끌어온다

1

그게 어떤 운영문제를 해결하나요?

2

그 문제는 어떤 데이터로 판단하나요?

3

누가 최종 책임을 지나요?

4

성공을 어떤 지표로 증명하나요?

5

사람이 반드시 봐야 하는 지점은 어디인가요?

다음 단계: 업무 쪼개기

쪼개야 보입니다 — AI가 할 일 · 사람이 판단할 일 · 데이터 필요 지점 · 자동화 지점

AX 정의 → 후보 업무 선정 → 업무 쪼개기