'웹에서 에이전트로의 대전환': 대기업 40%가 추진하는 '에이전트 인터넷' 시대 대표 썸네일

⚡ 결론 직답: 대기업의 40%가 에이전트 AI를 확장함에 따라, 단순 비용 절감을 넘어 자율형 에이전트 간 협업을 통한 '에이전트 인터넷' 기반의 비즈니스 혁신이 가속화되고 있습니다.

📌 3줄 핵심 요약

  • 자율형 AI 에이전트가 정보를 탐색하고 협업하며 업무를 수행하는 지능형 디지털 생태계로의 패러다임 전환
  • 글로벌 대형 조직의 40%가 단일 실험 단계를 지나 에이전트형 AI(Agentic AI)를 본격적으로 확장 중
  • 프론티어 모델과 기업 특화 소형 모델을 연결하는 오케스트레이션 레이어를 통한 비즈니스 가치 극대화

📅 데이터 기준일: 2026-11-20 | 원문 출처 기반 심층 리포트



안녕하세요, AI 전문기자 딥러너 (DeepLearner)입니다.

최근 테크 업계의 화두는 단순히 '똑똑한 챗봇'을 만드는 것을 넘어, 스스로 판단하고 행동하는 '에이전트(Agent)'로 옮겨가고 있습니다. 오늘은 웹의 패러다임이 어떻게 변화하고 있는지, 그 거대한 흐름의 중심에 있는 기업들의 움직임을 짚어보겠습니다.

[Part 1] 챗봇 실험의 시대는 끝났다: 대기업 40%가 주목하는 에이전트 AI의 확장#



이제 AI와 에이전트는 다양한 규모의 기업 운영에서 흔히 볼 수 있는 풍경이 되었습니다. 이제 기업들의 핵심 과제는 단순히 이 기술을 도입하는 것을 넘어, 어떻게 하면 이 기술이 가져다줄 실질적인 이익을 극대화할 수 있을지 그 방법을 찾아내는 단계에 진입했습니다. 과거의 인터넷이 웹사이트와 애플리케이션을 중심으로 구축되었다면, 이제는 자율적인 AI 에이전트들이 정보를 탐색하고, 서로 협력하며, 협상하고, 사람이나 조직을 대신해 업무를 수행하는 '지능형 디지털 생태계'로의 전환이 일어나고 있습니다. 즉, 우리가 알던 인터넷의 개념이 에이전트 중심으로 재편되고 있는 것입니다.

이러한 '에이전트 인터넷(Internet of Agents)' 시대의 도래와 관련하여, 저는 글로벌 IT 서비스 기업인 Wipro의 최고 전략 책임자이자 기술 총괄(Chief Strategist and Technology Officer)인 하리 셰티(Hari Shetty)와 이야기를 나누었습니다. 그는 현재 기업용 AI 도입 양상이 어떻게 개별적인 실험 단계를 지나 기업 규모의 생태계로 확장되고 있는지에 대해 매우 중요한 통찰을 제시했습니다.

그동안 기업들의 AI 도입 과정을 살펴보면, 여기저기 흩어진 단절된 실험들의 연속에 가까웠습니다. 특정 부서에는 챗봇이, 다른 곳에는 코파일럿(copilot)이 도입되었지만, 많은 '개념 증명(PoC)' 모델들이 실제 운영 환경(production)으로 이어지지 못한 채 실험실 수준에 머물러 있었습니다. 하지만 산업 보고서에 따르면 이러한 '단순 실험의 시대'는 막을 내리고 있습니다. 현재 대기업의 40%가 에이전트형 AI(agentic AI)를 적극적으로 확장(scaling)하고 있기 때문입니다. 이제 기업들은 의도적으로 연결된 플랫폼, 사람, 그리고 프로세스가 어우러진 하나의 거대한 생태계를 구축하는 데 집중하고 있습니다.

하리 셰티는 이러한 변화가 세 가지 층위에서 동시에 발생하고 있다고 설명합니다. 첫 번째는 효율성과 생산성을 높이는 '비용 변혁(cost transformation)'입니다. 두 번째는 그 밑바탕이 되는 데이터 모델과 거버로(governance)를 구축하는, 훨씬 더 난도가 높은 엔지니어링 작업인 '기술 변혁(technology transformation)'입니다. 그리고 마지막 세 번째는 가장 야심 찬 단계로, 기업이 약속할 수 있는 비즈니스 결과(business outcome)를 중심으로 기존 프로세스를 완전히 해체하고 재설계하는 '비즈니스 변혁(business transformation)'입니다.

많은 산업계의 논의가 여전히 '비용 변혁'에 집중되어 있는데, 이는 비용 절감이 측정하기 가장 쉽기 때문입니다. 하지만 셰티는 이를 '함정'이라고 경고합니다. 기존 프로세스 위에 단순히 에이전트를 덧입히는 방식은 미미한 이득만을 가져올 뿐, 그 너머에 있는 거대한 기회를 놓치게 만들기 때문입니다. 비즈니스 변혁은 증명하고 설득하기 훨씬 어렵지만, 바로 그곳에 진정한 가치가 숨어 있습니다. Wipro는 바로 이 지점을 공략하기 위해 'Wipro Intelligence'를 통해 데이터, 프로세스, 플랫폼, 그리고 에이전트를 연결함으로써, 고객들이 단순한 생산성 향상이나 일회성 실험을 넘어 측정 가능한 비즈니스 성과를 달성할 수 있도록 돕고 있습니다.

그렇다면 이 다양한 AI 에이전트들은 조직적, 지리적, 기술적 경계를 넘어 어떻게 협업하게 될까요? 그 핵심은 바로 '오케스트레이션(orchestration)'에 있습니다. 특화된 에이전트들이 서로 다른 모델, 데이터 소스, 기업용 시스템을 넘나들며 복잡한 워크플로우를 완수하기 위해 함께 움직이는 것입니다. 이러한 변화하는 고객 요구에 발맞추어, Wipro는 최근 'AI-Native Business and Platforms Unit'이라는 전담 부서를 신설했습니다. 이 부서는 에이전트를 구축하는 것은 물론, 각 에이전트가 적절한 역량을 식별하고, 필요한 정보에 접근하며, 기업 전체에 걸쳐 행동을 조정할 수 있도록 돕는 '오케스트레이션 계층(orchestration layer)'을 만드는 데 집중하고 있습니다.

이 구조의 밑바탕에는 최첨단 모델(frontier models)과 기업 특화형 소형 모델을 결합한 '분산형 아키텍처(distributed architecture)'가 자리 잡게 됩니다. 모든 기업 업무에 거대하고 막대한 비용이 드는 최첨단 모델이 필요한 것은 아닙니다. 기업의 자체 데이터와 사용 사례에 맞춰 구축된 작은 모델이, 적절한 데이터와 결합했을 때 훨씬 더 효율적이고 관리하기 쉬우며 해당 도메인에 최적화된 성능을 보여주는 경우가 많기 때문입니다. 오케스트레이션 계층은 이러한 혼합된 환경(mix) 속에서 에이전트가 각 워크플로우 단계에 가장 적합한 모델과 데이터, 그리고 도구를 선택하여 작업할 수 있도록 컨트롤 타워 역할을 수행하게 됩니다.

'웹에서 에이전트로의 대전환': 대기업 40%가 추진하는 '에이전트 인터넷' 시대 관련 이미지 1


Sponsored Advertisement

[Part 2] 오케스트레이션과 분산형 아키텍처: 프론티어 모델과 기업 특화 모델의 결합#



안녕하세요, AI 기술의 흐름을 깊이 있게 분석하는 딥러너(DeepLearner)입니다.

지난 파트에서 우리가 '에이전트 인터넷(Internet of Agents)'이라는 거대한 패러다임의 전환을 살펴보았다면, 이번 파트에서는 그 전환을 가능하게 하는 기술적 근간인 '오케스트레이션(Orchestration)'과 '분산형 아키텍처'에 대해 심도 있게 다뤄보고자 합니다. 과거의 인터넷이 사람과 정보를 연결하는 통로였다면, 이제는 AI 기반의 지능이 기업의 시스템, 워크플로우, 그리고 다른 에이전트들과 연결되는 시대로 진입하고 있습니다. 이는 단순히 소프트웨어가 정보를 보여주는 수준을 넘어, 정보에 따라 스스로 행동하는 '자율적 컴퓨팅' 시대를 의미합니다.

이러한 에이전트 간의 협업은 단순히 기술적 연결성(Connectivity)만으로는 불가능합니다. 서로 다른 조직, 지리적 경계, 그리고 다양한 기술 플랫폼을 넘나드는 에이전트들이 원활하게 작동하기 위해서는 신뢰할 수 있는 기반이 필수적입니다. 이를 위해 에이잭트들은 검증 가능한 신원(Verifiable identities)을 가져야 하며, 명확하게 정의된 권한과 서로를 발견하고 신뢰할 수 있는 신뢰 메커니즘을 갖추어야 합니다. 또한, 인간이 에이전트의 자율성 수준을 설정하고, 필요할 때 개입하며, 모든 행동을 검토할 수 있는 '컨트롤 플레인(Control plane)'의 역할이 매우 중요합니다.

에이전트 생태계의 핵심적인 구성 요소와 작동 방식은 다음과 같이 구분할 수 있습니다.

  • Assistant agents (어시스턴트 에이전트): 개인의 업무를 보조하는 형태로, 이메일 요약, 정보 분석, 소프트웨어 개발 및 테스트 지원 등 개인의 생산성을 높이는 데 집중합니다.
  • Embedded agents (임베디적 에이전트): 비즈니스 프로세스에 직접 내재화된 형태로, 눈에 보이지 않게 시스템 간을 이동하며 문제를 해결하거나 트랜잭션을 완료하고, 워크플로우를 오케스트레이션합니다. 단, 인간의 판단이 필요한 결정에 대해서는 인간에게 에스컬레이션(Escalation)을 수행합니다.
  • Control Plane (컨트롤 플레인): 에이전트의 자율성 수준을 제어하고, 데이터 접근 및 책임 소재에 대한 투명성과 감사 가능성(Auditability)을 제공하여 기업이 통제력을 유지하며 에이전틱 워크플로우를 확장할 수 있게 돕는 핵심 계층입니다.
  • Industry-specific solutions (산업 특화 솔루션): 은행의 KYC(Know Your Customer), 제조의 자산 관리(Asset management), 에너지 및 유틸리티(Energy and utilities), 통신의 자율 네트워크(Autonomous networks)와 같이 각 산업의 미션 크리티컬한 프로세스를 타겟팅하는 솔루션입니다.


하지만 에이전틱 AI를 둘러싼 거대한 기대감(Hype) 속에서 우리가 경계해야 할 점도 분명합니다. 단순히 에이전트를 많이 배포하는 것이 목적이 되어서는 안 됩니다. 중요한 것은 '약속'이 아닌 '증명'입니다. 성공적인 도입을 위해서는 기업의 핵심 프로세스와 비즈니스 성과에 직접적인 영향을 미치는 KPI(핵 핵심성과지표)에서부터 시작해야 합니다. 'AI-First' 사고방식을 통해 기존 프로세스를 재설계하고, 구체적인 비즈니스 결과를 목표로 삼는 '결과 중심적 접근(Outcome-led approach)'이 필요합니다. 그래만 투자 실패와 성과 저하로부터 클라이언트를 보호할 수 있기 때문입니다.

이미 에이전틱 생태계는 기업 전반의 업무 방식을 재편하고 있습니다. 그 적용 범위는 매우 광범위합니다.

  • 기업 전반의 프로세스: 고객 온보딩(Customer onboarding), 공급망 조사(Supply chain investigations), 비즈니스 리포팅, 재무 계획(Financial planning), 마케팅, 직원 서비스(Employee services), 기업 리스크 관리(Enterprise risk management) 등.
  • 다중 시스템 통합 사례: 재무 결산(Financial reconciliation), 부정 분석(Fraud analysis), 인보이스 워크플로우(Invoice workflows)를 지원하는 에이전트 활용.
  • 물류 및 산업 현장 적용: 차량 관제(Fleet coordination)부터 공장 유지보수(Plant maintenance), 시추 효율성(Drilling efficiency) 향상에 이르는 광범위한 물류 및 산업 분야.


이러한 사례들은 단순히 개별 태스크의 속도를 높이는 수준을 넘어, 기업 데이터를 사용하고 비즈니스 규칙을 적용하며 시스템 간 행동을 조정하는 '엔드 투 엔드(End-to-end)' 프로세스의 재설계를 의미합니다. 이를 위해서는 개별적인 AI 배포보다 훨씬 강력한 운영 기반이 필요합니다. 기업에는 에이전트를 적절한 모델 및 신뢰할 수 있는 데이터와 연결하고, 핵심 시스템과 통합하며, 운영 방식에 대한 명확한 통제를 제공하는 '연결 계층'이 반드시 필요합니다.

결론적으로, 에이전틱 AI가 진정한 규모의 경제(Scale)를 달성하기 위해서는 해결해야 할 운영적 과제가 남아 있습니다. 에이전틱 AI의 확장은 기업이 실제 운영 환경에서 에이전트를 신뢰할 수 있을 때에만 가능합니다. 통제된 파일럿(Pilot) 단계를 넘어, 정확도나 일관성을 해치지 않으면서도 막대한 비즈니스 볼륨과 예상치 못한 돌발 상황을 처리할 수 있는 능력을 증명해야 합니다. 이것이 바로 우리가 맞이할 '에이전트 인터넷' 시대의 진정한 도전 과제입니다.

[Part com 3] 신뢰와 통제의 과제: 에이전트 간 협업을 위한 신원 확인 및 제어 플랫폼 구축#



에이전트 중심의 새로운 인터넷 시대가 도래함에 따라, 기술적 완성도만큼이나 중요한 화두로 떠오른 것이 바로 '신뢰'입니다. 에이전트 간의 협업이 빈번해질수록 신뢰의 근간은 '추적 가능성(Traceability)'에 달려 있습니다. 기업은 에이전트가 어떠한 논리적 과정을 거쳐 특정 의사결정에 도달했는지 감사(Audit)할 수 있어야 하며, 수행된 작업의 내용을 명확히 이해하고, 만약 프로세스에 오류가 발생했을 때 이를 복구할 수 있는 능력을 갖추어야 합니다. 특히 비즈니스적 손실이나 규제적 리스크(Regulatory risks)가 높은 영역일수록, 에이전트 설계 초기 단계부터 회복 탄력성(Resilience)과 적절한 인간의 감독(Human oversight) 기능이 반드시 내장되어야 합니다.

단순히 기술을 도입하는 것을 넘어, '소유권(Ownership)'에 대한 정립도 필수적입니다. 에이전틱 AI(Agentic AI)를 성공적으로 확장하기 위해서는 에이전트에게는 실시간 워크플로우 내에서 정의된 역할을 부여하되, 그 결과에 대해서는 인간이 책임을 지는 운영 모델(Operating models)이 필요합니다. 즉, 인간 운영자는 에이전트의 자율성 수준(Autonomy levels)을 설정하고, 에이전트의 행동을 유도(Steer behaviour)하며, 성과를 검토하고, 필요 시 즉각적으로 개입할 수 있어야 합니다. 이러한 과정은 명확한 감사 추적(Audit trails)과 비즈니스 지표에 연계된 측정 기준을 통해 뒷받침되어야 합니다.

그렇다면 미래 기업의 성공을 결정짓는 척도는 단순히 '보유한 에이전트의 수'일까요? 결론부터 말씀드리면 그렇지 않습니다. 에이전트의 숫자는 기업의 진보를 나타내는 지표로서 가치가 낮습니다. 에이전트를 정의하는 일관된 기준이 없기 때문입니다. 어떤 조직은 10개의 기능을 각각 10개의 별도 에이전트로 분류하는 반면, 다른 조직은 동일한 역량을 하나의 에이전트에 통합하여 운영할 수도 있습니다. 따라서 진정한 성공의 척도는 '사람과 에이전트가 협업하여 달성한 업무 성과'가 되어야 합니다. 예를 들어, 더 효과적인 부정 거래 탐지(Fraud detection), 더 빠른 프로세스 처리(Faster processing), 혹은 더 기민한 운영(Responsive operations)과 같은 실질적인 비즈니스 결과물이 핵심 지표가 되어야 합니다.

이를 위해서는 AI 숙련도(AI fluency)가 특정 전문가 팀에만 국한되지 않고 조직 전체로 확산되어야 합니다. 조직의 모든 구성원은 에이전트와 협업하는 방법, 에이전트에 의존해야 할 시점, 그리고 인간의 판단이 여전히 필수적인 영역이 어디인지를 명확히 이해해야 합니다. 이 과정에서 리더들의 역할은 매우 결정적입니다. 리더는 팀원들이 새로운 기술을 두려움 없이 실험할 수 있도록 '심리적 안전감이 보로된 환경(Psychologically safe environments)'을 조성해 주어야 합니다.

최근의 한 산업 보고서에 따르면, AI를 통해 업무 방식을 재창조하더라도 그 결과가 즉각적으로 나타나지 않을 때, 자신의 노력이 보상받거나 지지받고 있다고 느끼는 직원은 단 13%에 불과했습니다. 이는 'AI 가치의 J-커브(J-curve of AI value)' 현상을 극명하게 보여줍니다. 초기에는 막대한 투자가 선행되지만, 이후 일정 기간 동안은 혜택이 제한적이거나 측정하기 어려운 정체기가 찾아옵니다. 기업의 리더들은 이 구간을 견뎌내며 구성원들의 신뢰를 유지해야 합니다. 초기 이익은 점진적으로 나타나며, 가치 사슬(Value stream)의 더 많은 부분이 새로운 운영 모델로 이동할 때 비로소 거대한 수익이 발생하기 때문입니다. 결국 에이전틱 AI의 도입은 단순한 기술적 전환을 넘어, 조직적이고 문화적인 변화(Organizational and cultural change)를 의미합니다.

결국 미래에 성공할 기업은, 업무의 많은 부분이 자율화되더라도 책임 소재를 명확히 유지하면서, 사람과 에이전트가 서로를 신뢰하며 자신 있게 협업할 수 있는 환경을 구축하는 기업이 될 것입니다.

한눈에 보는 핵심 비교 분석#



비교 항목 기존 방식 (Traditional) 신규 변화 (Agentic AI) 핵심 차이
성공 측정 지표 투입된 인력 및 에이전트 수 비즈니스 결과물 (Fraud detection 등) 단순 수량에서 실질적 성과(Outcome) 중심으로 전환
업무 수행 주체 인간 중심의 수동적 프로세스 인간과 에이뮬레이션된 에이전트의 협업 에이전트에게 정의된 역할 부여 및 자율성 조절
책임 및 통제 인간의 직접적인 모든 단계 관리 인간의 책임 하에 에이전트 자율성 확대 감사 추적(Audit trails)을 통한 사후 검증 및 개입
필요 역량 특정 직무에 국한된 전문 지식 조직 전반의 AI 숙련도 (AI Fluency) 전문가 중심에서 전 구성원의 AI 협업 능력으로 확대
변화의 성격 단순한 툴(Tool)의 도입 조직 및 문화적 대전환 (Cultural Change) 기술 도입을 넘어 운영 모델 및 문화의 재정립


독자 체크리스트 및 자주 묻는 질문 (FAQ)#



📋 에이전틱 AI 도입을 위한 기업 체크리스트#

  • [ ] 추적 가능성 확보: 에이전트의 의사결정 과정을 감사(Audit)하고 실패 시 복구할 수 있는 시스템이 구축되었는가?
  • [ ] 책임 모델 정립: 에이전트의 자율성 수준을 설정하고, 결과에 대해 인간이 책임을 지는 운영 모델이 존재하는가?
  • [ ] 문화적 준비도: 구성원들이 실패를 두려워하지 않고 실험할 수 있는 '심리적 안전감'이 조직 내에 형성되어 있는가?


❓ 자주 묻는 질문 (FAQ)#

Q1. 왜 에이전트의 숫자를 기업의 발전 지표로 사용할 수 없나요? A1. 에이전트의 숫자는 정의 방식에 따라 달라지기 때문입니다. 어떤 기업은 기능을 세분화하여 많은 에이전트를 운용하고, 어떤 기업은 통합하여 적은 수의 에이전트를 운용할 수 있습니다. 따라서 숫자가 아닌, 부정 거래 탐지 속도나 처리 속도와 같은 실질적인 '비즈니스 결과물'을 측정해야 합니다.

Q2. AI 도입 초기, 성과가 바로 나타나지 않는 'J-커브' 구간을 어떻게 극복해야 하나요? A2. AI 도입 초기에는 투자 비용이 먼저 발생하고 혜택은 점진적으로 나타나는 정체기가 반드시 존재합니다. 리더는 이 구간이 기술적 실패가 아닌 가치 창출을 위한 과정임을 인식하고, 구성원들이 AI를 통해 업무를 재창조하는 과정에서 지속적인 지지와 보상을 받을 수 있도록 조직 문화를 관리해야 합니다.

딥러너 (DeepLearner)이었습니다.


🔗 원문 참고 및 출처: 'The Internet of Agents is the next shift': Wipro tells us why the next wave of AI agents could boost your business more than ever