NVIDIA는 AI Enterprise 소프트웨어 플랫폼의 일환으로 일반 공개된 NeMo 마이크로서비스를 출시했습니다. 이 도구는 기업이 맞춤형 AI 에이전트를 신속하게 개발, 배포, 최적화하고 기업 워크플로우와 통합하여 다양한 산업 분야에서 직원 생산성을 향상시키고 작업을 자동화하는 데 도움을 제공합니다.
주요 기능 및 특징
이 에이전트형 AI 플랫폼은 AI 에이전트가 실제 세계와의 상호작용, 비즈니스 데이터, 추론 결과로부터 지속적으로 학습하고 개선되는 '데이터 플라이휠'을 생성하도록 설계되었습니다. 기본적인 챗봇과 달리 NeMo 기반 에이전트는 최소한의 인간 감독으로 자율적으로 행동할 수 있으며, 기업 시스템과 깊이 통합되어 추론 및 의사결정 능력을 보여줍니다.
이 디지털 동료들은 고객 서비스, 소프트웨어 개발, 네트워크 관리 등 다양한 분야에서 반복적이거나 복잡한 작업을 처리하여 인간 직원이 고부가가치 업무에 집중할 수 있도록 합니다. 플랫폼의 기업급 인프라스트럭처는 보안과 확장성을 보장하며, 조직이 독점 데이터와 워크플로우에서 새로운 가치를 창출할 수 있도록 지원합니다. 모든 상호작용은 시스템에 피드백되어 AI 에이전트가 시간이 지남에 따라 점점 더 효과적으로 작동하도록 하며, 생산성 향상을 이끌어내는 지속적인 개선 사이클을 형성합니다.
기업 도입 결과
NeMo를 조기 도입한 기업들은 다양한 산업 분야에서 운영 효율성 개선을 보고했습니다. Amdocs는 청구, 판매, 네트워크 에이전트를 배포하여 고객 문의의 '첫 통화 해결률'을 50% 개선했습니다. AT&T는 개인화 고객 서비스, 사기 방지, 네트워크 최적화를 담당하는 AI 에이전트의 정확도를 최대 40% 향상시켰습니다.
Cisco의 Outshift 부문은 코딩 어시스턴트를 통해 도구 선택 오류율을 40% 감소시키고 응답 속도를 최대 10배 향상시켰으며, Nasdaq은 GenAI 플랫폼에서 검색 정확도와 응답 속도가 30% 향상되었다고 보고했습니다. 이러한 측정 가능한 생산성 향상은 NeMo 기반 에이전트가 다양한 기업 환경에서 운영을 간소화하고 서비스 품질을 개선함으로써 실질적인 비즈니스 가치를 창출하고 있음을 입증합니다.
NeMo 마이크로서비스 스위트
이 포괄적인 스위트에는 효과적인 AI 에이전트를 생성하기 위해 함께 작동하는 여러 전문 구성 요소가 포함되어 있습니다. NeMo Customizer는 대규모 언어 모델의 미세 조정을 최대 1.8배 더 높은 훈련 처리량으로 가속화하며, NeMo Evaluator는 간소화된 API 호출을 통해 AI 모델 및 워크플로우 평가를 단순화합니다.
NeMo Guardrails는 지연 시간을 유지하면서 최대 1.4배 더 많은 보호 기능을 제공하여 준수성과 안전성을 강화하며, NeMo Retriever 및 Curator 구성 요소는 강력한 데이터 관리 및 검색 시스템을 지원합니다. 이 마이크로서비스는 Nvidia의 AI Enterprise 소프트웨어 플랫폼을 통해 배포되어 데이터를 효율적으로 처리하여 지능적이고 반응형 AI 에이전트를 제공하는 체인을 형성합니다. 이 에이전트는 특정 기업 요구사항에 맞게 맞춤화될 수 있습니다.
플랫폼의 아키텍처는 IT 팀이 조직의 지식 기반을 활용하면서 보안과 확장성을 유지하며 AI 동반자를 빠르게 구축할 수 있도록 합니다.
배포 및 통합
Nvidia의 AI Enterprise 소프트웨어 포트폴리오의 일부로 통합된 NeMo 마이크로서비스는 Helm 차트 또는 API 호출을 통해 배포 가능한 안전하고 전체 스택 솔루션을 제공합니다. 이 간소화된 배포 접근 방식은 IT 팀이 기존 기업 시스템에 AI 에이전트를 통합하고 변화하는 비즈니스 요구사항에 따라 확장하는 것을 훨씬 쉽게 만듭니다.
이 플랫폼은 데이터가 NeMo 자체를 시작으로 다양한 마이크로서비스를 통해 흐르는 처리 체인을 생성하여 기업 워크플로우와의 원활한 통합을 가능하게 합니다. 조직은 파트너 플랫폼을 통해 이러한 도구를 활용하여 독점 데이터를 액세스하면서 보안 프로토콜을 유지하는 AI 동반자를 빠르게 구축할 수 있습니다. 이 기업급 인프라스트럭처는 고객 서비스부터 네트워크 관리까지 다양한 비즈니스 기능에서 디지털 동료로 작동하는 지속적으로 진화하는 AI 에이전트를 생성하는 것을 지원합니다.