Construye tu propio ChatGPT con Azure OpenAI y tus propios datos

https://restofmycloud.com/events/construye-tu-propio-chatgpt-con-azure-openai

Transcript

1. Construye tu propio ChatGPT con Azure OpenAI y tus propios datos Lautaro Carro
2. Disclaimer • Esta presentación contiene toda la información necesaria para cumplir con los objetivos mencionados. • Las demos pueden no ser un tutorial de paso a paso. Aun así, se compartirá todo los códigos y recursos utilizados. • Cualquier opinión es de mi persona y no de otra entidad.
3. OpenAI y ChatGPT • GPT-3 (Generative Pre-trained Transformer 3) es una Inteligencia artificial o red neuronal de aprendizaje profundo creada por OpenAI. • ChatGPT es un prototipo de chatbot de GPT desarrollado en 2022. • El objetivo de OpenAI es desarrollar tecnologías de IA de alta calidad y de libre acceso para la sociedad en general.
4. Convenio con Microsoft • Microsoft ha estado comprometido desde 2016 en la construcción de Azure como una supercomputadora de inteligencia artificial. • La asociación se fortaleció en 2019 con Microsoft invirtiendo mil millones de dólares en OpenAI. • En 2022, Microsoft invierte 10,000 millones de dólares. Entre varios beneficios, Azure se vuelve el proveedor cloud exclusivo de OpenAI.
5. Azure OpenAI Service • Microsoft lanza Azure OpenAI Service en Noviembre del 2021. • En Enero de 2023, liberan Azure OpenAI Service donde ya todos podemos empezar a probar los modelos de AI. • En Marzo del 2023, publican un artículo y una demo en GitHub de cómo usar Azure OpenAI Service con Enterprise Data
6. { "name": "Lautaro Carro", "username": "@lauchacarro 📷", "award": "Microsoft MVP 🏆", "job": "Tech Lead y Coach en Algeiba 💻", "communities": ["Latino .NET Online"] }
7. https://github.com/Azure-Samples/azure-search-openai-demo/
8. Temario para hoy: • Introducción a Azure OpenAI Service • Azure OpenAI Studio • Demos C# • Azure OpenAI Service con nuestros datos • Explicación de los recursos necesarios • Demo • Diseños de Arquitecturas de Aplicaciones Cloud e Hibridas
9. ¿Qué es Azure OpenAI Service? • Un servicio en la nube proporcionado por Microsoft Azure que permite a los desarrolladores y empresas aprovechar la potencia de los modelos de lenguaje de OpenAI, como GPT-3, para mejorar sus aplicaciones y soluciones empresariales.
10. Azure OpenAI Service: Funcionalidades • Finalizaciones (Completions): permite a los usuarios generar texto continuo y completo a partir de una entrada o un fragmento de texto proporcionado. • Chat: Permite interactuar con modelos de lenguaje avanzados. Los modelos pueden responder a preguntas, proporcionar información y participar en conversaciones dinámicas. • DALL·E: es capaz de crear imágenes a partir de descripciones de texto y permite a los usuarios experimentar con la generación de imágenes.
11. Azure OpenAI Studio
13. ChatGPT con nuestra propia información
14. Recursos necesarios • Azure OpenAI Service • Azure Blob Storage • Azure Form Recognizer • Azure Cognitive Search • PDF’s con nuestra información
15. Azure Blob Storage • Un servicio de almacenamiento en la nube de Microsoft Azure diseñado para almacenar grandes cantidades de datos no estructurados, como imágenes, videos o archivos de texto. • Lo vamos a necesitar para almacenar todos nuestros documentos con nuestra información.
16. Azure Cognitive Search • Un servicio de búsqueda que utiliza técnicas de inteligencia artificial y aprendizaje automático para permitir la búsqueda y exploración de grandes volúmenes de datos no estructurados. • Lo vamos a necesitar para indexar todo nuestro contenido y realizar búsquedas de la información necesaria.
17. Azure Form Recognizer (Opcional) • Un servicio de Azure que utiliza técnicas de inteligencia artificial y aprendizaje automático para identificar y extraer información clave de formularios y documentos estructurados. • Lo vamos a necesitar para separar documentos grandes en partes más pequeñas.
19. Diseño de Arquitecturas
20. Consumir directamente Azure OpenAI Service https://github.com/microsoft/sample-app-aoai-chatGPT https://github.com/lauchacarro/azure-search-openai-console-demo
22. Azure Search y Azure OpenAI Retrieval-Augmented Generation https://github.com/Azure-Samples/azure- search-openai-demo/ https://github.com/lauchacarro/azure-search- openai-console-demo
24. Escalable y con Cache Distribuido https://github.com/Azure- Samples/azure-search- openai-demo-csharp
25. Orígenes de Datos On-Premise
26. Conclusiones • Podemos implementar Azure OpenAI con nuestros datos en : • Chatbots y asistentes virtuales • Asistente de búsqueda de información • Herramientas facilitadoras como generación de contenido especializado • Los costos son similares a la API original de OpenAI. Con Azure evitamos exponer a todo el internet nuestros datos. • Con esta tecnología próximamente podremos crear nuestros plugins para Copilot
27. Muchas Gracias