Construye tu propio ChatGPT con Azure OpenAI y tus propios datos Lautaro Carro

Disclaimer • Esta presentación contiene toda la información necesaria para cumplir con los objetivos mencionados. • Las demos pueden no ser un tutorial de paso a paso. Aun así, se compartirá todo los códigos y recursos utilizados. • Cualquier opinión es de mi persona y no de otra entidad.

OpenAI y ChatGPT • GPT-3 (Generative Pre-trained Transformer 3) es una Inteligencia artificial o red neuronal de aprendizaje profundo creada por OpenAI. • ChatGPT es un prototipo de chatbot de GPT desarrollado en 2022. • El objetivo de OpenAI es desarrollar tecnologías de IA de alta calidad y de libre acceso para la sociedad en general.

Convenio con Microsoft • Microsoft ha estado comprometido desde 2016 en la construcción de Azure como una supercomputadora de inteligencia artificial. • La asociación se fortaleció en 2019 con Microsoft invirtiendo mil millones de dólares en OpenAI. • En 2022, Microsoft invierte 10,000 millones de dólares. Entre varios beneficios, Azure se vuelve el proveedor cloud exclusivo de OpenAI.

Azure OpenAI Service • Microsoft lanza Azure OpenAI Service en Noviembre del 2021. • En Enero de 2023, liberan Azure OpenAI Service donde ya todos podemos empezar a probar los modelos de AI. • En Marzo del 2023, publican un artículo y una demo en GitHub de cómo usar Azure OpenAI Service con Enterprise Data

{ "name": "Lautaro Carro", "username": "@lauchacarro 📷", "award": "Microsoft MVP 🏆", "job": "Tech Lead y Coach en Algeiba 💻", "communities": ["Latino .NET Online"] }

https://github.com/Azure-Samples/azure-search-openai-demo/

Temario para hoy: • Introducción a Azure OpenAI Service • Azure OpenAI Studio • Demos C# • Azure OpenAI Service con nuestros datos • Explicación de los recursos necesarios • Demo • Diseños de Arquitecturas de Aplicaciones Cloud e Hibridas

¿Qué es Azure OpenAI Service? • Un servicio en la nube proporcionado por Microsoft Azure que permite a los desarrolladores y empresas aprovechar la potencia de los modelos de lenguaje de OpenAI, como GPT-3, para mejorar sus aplicaciones y soluciones empresariales.

Azure OpenAI Service: Funcionalidades • Finalizaciones (Completions): permite a los usuarios generar texto continuo y completo a partir de una entrada o un fragmento de texto proporcionado. • Chat: Permite interactuar con modelos de lenguaje avanzados. Los modelos pueden responder a preguntas, proporcionar información y participar en conversaciones dinámicas. • DALL·E: es capaz de crear imágenes a partir de descripciones de texto y permite a los usuarios experimentar con la generación de imágenes.

Azure OpenAI Studio

No content

ChatGPT con nuestra propia información

Recursos necesarios • Azure OpenAI Service • Azure Blob Storage • Azure Form Recognizer • Azure Cognitive Search • PDF’s con nuestra información

Azure Blob Storage • Un servicio de almacenamiento en la nube de Microsoft Azure diseñado para almacenar grandes cantidades de datos no estructurados, como imágenes, videos o archivos de texto. • Lo vamos a necesitar para almacenar todos nuestros documentos con nuestra información.

Azure Cognitive Search • Un servicio de búsqueda que utiliza técnicas de inteligencia artificial y aprendizaje automático para permitir la búsqueda y exploración de grandes volúmenes de datos no estructurados. • Lo vamos a necesitar para indexar todo nuestro contenido y realizar búsquedas de la información necesaria.

Azure Form Recognizer (Opcional) • Un servicio de Azure que utiliza técnicas de inteligencia artificial y aprendizaje automático para identificar y extraer información clave de formularios y documentos estructurados. • Lo vamos a necesitar para separar documentos grandes en partes más pequeñas.

No content

Diseño de Arquitecturas

Consumir directamente Azure OpenAI Service https://github.com/microsoft/sample-app-aoai-chatGPT https://github.com/lauchacarro/azure-search-openai-console-demo

No content

Azure Search y Azure OpenAI Retrieval-Augmented Generation https://github.com/Azure-Samples/azure- search-openai-demo/ https://github.com/lauchacarro/azure-search- openai-console-demo

No content

Escalable y con Cache Distribuido https://github.com/Azure- Samples/azure-search- openai-demo-csharp

Orígenes de Datos On-Premise

Conclusiones • Podemos implementar Azure OpenAI con nuestros datos en : • Chatbots y asistentes virtuales • Asistente de búsqueda de información • Herramientas facilitadoras como generación de contenido especializado • Los costos son similares a la API original de OpenAI. Con Azure evitamos exponer a todo el internet nuestros datos. • Con esta tecnología próximamente podremos crear nuestros plugins para Copilot

Muchas Gracias