CloudOps Copilot: Dominate your AWS account with Amazon Bedrock AgentCore

Presented at the AWS Community Day Bolivia 2025, where I introduced the evolution towards Agentic AI, the AWS AI Tech Stack, and then, introduced Amazon Bedrock AgentCore as the solution to move from Proof of Concept to a production-ready deployment for Generative AI agentic flows.
I then showed how to create a "CloudOps Copilot" chatbot, deployed under Amazon Bedrock AgentCore, featuring CloudOps related demos including Cost Analysis, Security Compliance, Infrastructure as Code Analysis & Compliance Reporting.

Transcript

1. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Copiloto Conversacional para CloudOps Domina tu cuenta de AWS con Amazon BedrockAgentCore Gustavo Alejandro Romero Sanchez Principal Cloud Solutions Architect Encora
2. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Agenda 01 Escenario del mercado de agentes de IA 02 El Stack Tecnologico de la IA en AWS 03 Introducción a Amazon Bedrock AgentCore 04 Arquitectura del Copiloto Conversacional de CloudOps con Amazon Bedrock AgentCore 05 CloudOps Copilot en acción 06 Lecciones aprendidas y proximos pasos
3. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Sobre el expositor Principal Cloud Solutions Architect Encora Gustavo Romero
4. © AWS Community Day Bolivia 2025. Todos los derechos reservados. La evolucion hacia Agentic AI INCREMENTANDO LA AUTONOMIA Y EL IMPACTO AL NEGOCIO Asistentes de IA Generativa Agentes de IA Generativa Sistemas de Agentic AI Seguir un set de reglas Automatizar tareas repetitivas Lograr una metica unica Capacidad de resolver mas tareas Automatizar flujos de trabajo completos Completamente Autonomo Sistemas Multi-agente Emular razonamiento y logica humana M A S S U P E R V I S I O N H U M A N A M E N O S S U P E R V I S I O N H U M A N A
5. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Las empresas están redoblando su apuesta por los agentes Gartner, “Top strategic Technology Trends for 2025,” Octubre 2024 Gartner, “Top Strategic Technology Trends: Agentic AI—the Evolution of Experience” Febrero 2025 33% de las aplicaciones de software empresarial incluirán Agentic AI para 2028, frente a menos del 1 % en 2024 15% de las decisiones cotidianas de trabajo se tomarán de forma autónoma mediante Agentic AI para 2028.
6. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Brindar el mejor lugar para crear los agentes de IA más útiles del mundo, empoderando a las organizaciones para desplegar agentes confiables y seguros a gran escala V I S I O N D E A W S
7. © AWS Community Day Bolivia 2025. Todos los derechos reservados. El Stack Tecnologico de IA en AWS S D K S P A R A A G E N T E S Integrado Verticalmente Flexible/OSS A M A Z O N B E D R O C K Modelos Capacidades AgentCore Knowledge Bases Amazon Nova 3P Models Optimizacion Guardrails Customization Runtime 1P Tools Gateway Identity Memory Observability I N T E R F A C E S & P R O T O C O L O S ( M C P / A 2 A ) D A T O S Nova Act Strands Agents A P P L I C A C I O N E S Kiro Amazon Q AWS Transform Amazon Connect AWS Marketplace S O F T W A R E Y S E R V I C I O S D E D E S A R R O L L O D E I A Y A G E N T E S I N F R A E S T R U C T U R A A M A Z O N S A G E M A K E R A I A I C O M P U T E AWS Trainium MLOps Model training Deployment Model building Fine-tuning Governance AWS Inferentia GPUs
8. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Introduccion a Amazon Bedrock AgentCore
9. © AWS Community Day Bolivia 2025. Todos los derechos reservados. El “abismo” del prototipo a producción Emoción y potencial Valor empresarial significativo Desafíos en el camino hacia producción Rendimiento Securidad Gobernanza POC Agentes de IA en producción Escalabilidad
10. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Agentes Organizacion Herramientas Construir un agente es solo el comienzo, escalarlo a producción es la meta “Mi Agente” Agentes Departmento Herramientas Externo Agentes Herramientas
11. © AWS Community Day Bolivia 2025. Todos los derechos reservados. AgentCore Runtime Capacidades de AgentCore para habilitar agentes a gran escala Modelos AgentCore Identity AgentCore Observability AgentCore Memory AgentCore Gateway AgentCore Browser AgentCore Code Interpreter MCP Cliente Instrucciones del agente Herramientas locales Contexto del agente Framework
12. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Arquitectura del Copiloto Conversacional de CloudOps con Amazon Bedrock AgentCore
13. © AWS Community Day Bolivia 2025. Todos los derechos reservados. AgentCore Runtime • Escala cargas en tiempo real a cargas de varias horas con baja latencia y un tiempo de ejecución extendido líder en la industria (hasta 8 horas). • Compatible con payloads en múltiples modalidades. Escalar de cargas en tiempo real a cargas de varias horas • Despliegue cualquier agente de IA utilizando marcos de código abierto comunes. • Despliegue desde POC hasta producción con solo unas pocas líneas de código. Acelere el tiempo de salida al mercado • Aislamiento real de sesiones para proteger los datos. • Se integra con proveedores de identidad existentes. Proteja las cargas de trabajo con aislamiento
14. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Strands Framework Agente CloudOps Copilot Claude Sonnet 4 AgentCore Runtime decorator + configura Dockerfile AgentCore Runtime AgentCore Runtime Endpoint Amazon ECR Repository produce CloudOps Copilot CLI invoca Usuario AgentCore Observability config AgentCore Identity config CloudOps Copilot - AgentCore Runtime AgentCore Runtime Agent
15. © AWS Community Day Bolivia 2025. Todos los derechos reservados. AgentCore Identity • Permite que los agentes de IA accedan de forma segura a recursos de AWS y a herramientas de terceros • Controles de acceso robustos con permisos delegados y acceso mínimo necesario. Acceso seguro y delegado para agentes de IA • Minimiza la carga de consentimiento con un token vault seguro. • Optimiza los flujos de autenticación. Cree experiencias optimizadas para agentes de IA • Conserva los sistemas de identidad existentes como Okta, Azure AD o Amazon Cognito. • Reduce el esfuerzo de desarrollo personalizado sin necesidad de migrar usuarios ni rehacer flujos de autenticación. Desarrollo acelerado de agentes de IA
16. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Agente AgentCore Gateway (herramientas) Usuario AWS resource/agents (via IAM) Agent Inbound Auth CloudOps Copilot CLI Inbound Auth (IAM/Oauth) Agentes y recursos (via Oauth, API keys, etc.) AgentCore Gateway Inbound Auth Outbound Auth (IAM) Outbound Auth (OAuth) CloudOps Copilot - AgentCore Identity
17. © AWS Community Day Bolivia 2025. Todos los derechos reservados. AgentCore Gateway • Convertir APIs, funciones Lambda y servicios existentes en herramientas compatibles con MCP. • Accede a miles de herramientas a través de una interfaz estandarizada. Desarrollo e integración de herramientas simplificado • Descubra y use herramientas mediante un único endpoint seguro. • Combine múltiples fuentes de herramientas en una sola interfaz unificada. Acceso seguro y unificado • Permite que los agentes encuentren las herramientas adecuadas mediante un descubrimiento de acuerdo a; contexto. • Colecciones de herramientas curadas con permisos granulares. Descubrimiento inteligente de herramientas
18. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Agente Cliente MCP AgentCore Gateway API Endpoint Target AWS Documentation MCP Server AWS Terraform MCP Server /mcp AWS Cost Explorer MCP Server APIs, herramientas, recursos Listar tools, Invocar tool, Busqueda CloudOps Copilot - AgentCore Gateway AWS Pricing MCP Server AWS Security Hub Endpoint
19. © AWS Community Day Bolivia 2025. Todos los derechos reservados. AgentCore Memory • Abstrae la infraestructura de memoria. • Escala automáticamente con arquitectura serverless. • Almacena y gestiona automáticamente el contexto de los agentes a través de las sesiones Administracion de memoria simplificada • Privacidad completa de los datos con almacenamiento dedicado para cada cliente. • Seguridad de nivel empresarial con cifrado y opciones de almacenamiento de datos regionales. Nivel empresarial • Defina patrones de memoria basados en su caso de uso. • Configure reglas de extracción. • Elija modelos y personalice prompts para la extracción de memoria. Personalización avanzada
20. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Memoria a corto plazo Mensajes de chat Sesion Memoria a largo plazo Semantica Preferencias Summary Modulo automatico de extraccion de memoria Agent Memory async Implementacion del Agente Mensajes Estado del agente Recuperar eventos Eventos Recuperar registros de memoria sync sync async async CloudOps Copilot CloudOps Copilot - AgentCore Memory
21. © AWS Community Day Bolivia 2025. Todos los derechos reservados. • Integración con una amplia gama de herramientas de monitoreo y observabilidad, incluyendo AWS CloudWatch. • Flexibilidad para aprovechar el stack de observabilidad existente. AgentCore Observability • Visibilidad integral de extremo a extremo sobre el comportamiento de los agentes. • Facilidad de debugging y auditorías de calidad. • Detección rápida de problemas y evaluación de tendencias de rendimiento. Manteniendo la calidad y la confianza Integración con herramientas de observabilidad de terceros
22. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Amazon Bedrock AgentCore Observability Agent deployed on AgentCore Runtime Agent memory using AgentCore Memory Tools from AgentCore Gateway … OTEL logs Dashboard de AgentCore Observability Dashboard de observabilidad de 3P CloudOps Copilot - AgentCore Observability
23. © AWS Community Day Bolivia 2025. Todos los derechos reservados. CloudOps Copilot en acción
24. © AWS Community Day Bolivia 2025. Todos los derechos reservados. AWS Cloud Operations Administrar y optimizar los costos de la nube de manera efectiva. Establecer entornos seguros, escalables y rentables. Gobernanza en la Nube Gestión Financiera en la Nube (FinOps) Seguridad y Auditoría Gestión de Operaciones Garantizar la adhesión a regulaciones y detectar actividades sospechosas. Medir el rendimiento del sistema mediante registros (logs) y métricas. Monitoreo y Observabilidad Automatizar las operaciones de TI para una gestión eficiente de los recursos.
25. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Caso de uso #1: FinOps
26. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Caso de uso #2: Seguridad
27. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Caso de uso #3: Analisis de IaC (Terraform)
28. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Caso de uso #4: Auditoria y Reportes
29. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Lecciones aprendidas y próximos pasos
30. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Lo que descubrimos en este viaje • Construir un agente es fácil, escalarlo a produccion no. Se necesita runtime especializado, memoria persistente, identidad delegada y observabilidad. • AgentCore simplifica la complejidad. Provee los cimientos (Runtime, Gateway, Identity, Memory, Observability) para agentes productivos a gran escala. • Strands Framework acelera la transición. Permite prototipar y pasar a producción con menos fricción. • El valor viene del negocio. Los casos CloudOps, FinOps, SecOps, IaC muestran que la meta no es el agente en sí, sino el impacto medible.
31. © AWS Community Day Bolivia 2025. Todos los derechos reservados. ¿Qué te llevas hoy? • Experimenta: inicia con un POC significativo (FinOps, seguridad, IaC) usando AgentCore o Strands. • Estandariza: incorpora prácticas de CloudOps (gobernanza, monitoreo, auditoría, FinOps) en tus pilotos de agentes. • Mide: define KPIs claros (coste por tarea, reducción de MTTR, productividad).Escala con confianza: usa AgentCore como cimiento para crecer de “un agente” a “miles de agentes”. • Actúa ahora: identifica un área en tu organización donde un agente pueda demostrar valor en las próximas 2-4 semanas.
32. © AWS Community Day Bolivia 2025. Todos los derechos reservados. Gracias! Gustavo Alejandro Romero Sanchez Principal Cloud Solutions Architect Encora