L’AI sul campo: dal training alla produzione in una piattaforma antifrode

Visada usa l’intelligenza artificiale per rilevare frodi nei sinistri auto a partire da immagini di danni. In questo talk mostreremo come abbiamo progettato l’architettura AI della piattaforma, orchestrando più modelli in produzione. Parleremo di training, dataset, CI/CD, MLOps e di come portare davvero l’AI fuori dai laboratori.

Transcript

1. giuseppe.tortorelli@visada.it Giuseppe Tortorelli Co-founder & CTO Nicola Fossati Co-founder & Head of R&D nicola.fossati@visada.it L’AI sul campo: dal training alla produzione in una piattaforma antifrode
2. Table of Content 01 02 03 Visada: Debugging the Insurance Industry Chi siamo, cosa facciamo, e perché (finalmente) serve un AI-first approach nei sinistri auto. Container, microservizi e altre storie d’amore Uno sguardo dietro le quinte: dallo stack tech alla topologia dei servizi From Notebook to Prod: pipeline MLOps sotto torch.io Come versioniamo dati, modelli e esperimenti per un deploy affidabile e ripetibile
3. 01 Visada: Debugging the Insurance Industry Chi siamo, cosa facciamo, e perché (finalmente) serve un AI-first approach nei sinistri auto.
4. 01 Visada: Debugging the Insurance Industry Quaderno 15 IVASS, 2021 20% Tasso di identificazione di sinistri potenzialmente fraudolenti
5. 01 Visada: Debugging the Insurance Industry 20% Tasso di identificazione di sinistri potenzialmente fraudolenti € 13B Picco dei costi generate da fenomeni fraudolenti Quaderno 15 IVASS, 2021
6. 01 Visada: Debugging the Insurance Industry 2.5 M Sinistri nell’area dei veicoli terrestri Report IVASS 2024
7. 01 Visada: Debugging the Insurance Industry 2.5 M Sinistri nell’area dei veicoli terrestri 26% Sinistri a rischio frode Report IVASS 2024
8. 01 Visada: Debugging the Insurance Industry 2.5 M Sinistri nell’area dei veicoli terrestri 26% Sinistri a rischio frode 1,5% Frodi identificate Report IVASS 2024
9. 01 Visada: Debugging the Insurance Industry Metodi euristici Dati del veicolo Controlli manuali Cross-referencing
10. 01 Visada: Debugging the Insurance Industry Metodi euristici Dati del veicolo Controlli manuali Cross-referencing
11. 01 Visada: Debugging the Insurance Industry Metodi euristici Dati del veicolo Controlli manuali Cross-referencing X Scarsa evidenza
12. 01 Visada: Debugging the Insurance Industry Metodi euristici Dati del veicolo Controlli manuali Cross-referencing X Scarsa evidenza
13. 01 Visada: Debugging the Insurance Industry Metodi euristici Dati del veicolo Controlli manuali Cross-referencing Scarsa evidenza X Scarsa disponibilità X
14. 01 Visada: Debugging the Insurance Industry Metodi euristici Dati del veicolo Cross-referencing Scarsa evidenza X Scarsa disponibilità X Controlli manuali
15. 01 Visada: Debugging the Insurance Industry Metodi euristici Dati del veicolo Controlli manuali Cross-referencing Scarsa evidenza X Scarsa disponibilità X X Non scalabile
16. 01 Visada: Debugging the Insurance Industry Metodi euristici Dati del veicolo Controlli manuali Cross-referencing Scarsa evidenza X Scarsa disponibilità X X Non scalabile
17. 01 Visada: Debugging the Insurance Industry Metodi euristici Dati del veicolo Controlli manuali Cross-referencing Scarsa evidenza X Scarsa disponibilità X X Non scalabile X Assenza di informazioni
18. 01 Visada: Debugging the Insurance Industry
19. 01 Visada: Debugging the Insurance Industry
20. 01 Visada: Debugging the Insurance Industry CRACK ANALIZZARE LE IMMAGINI DI SINISTRI PER IDENTIFICARE DANNI SIMILI
21. 01 Visada: Debugging the Insurance Industry D.A.F.N.E. Digital Anti-Fraud Neural Engine
22. 01 Visada: Debugging the Insurance Industry 1. Assicurazione invia le immagini 2. Anonimizzazione delle immagini 3. DAFNE analizza le immagini 4. Operatore verifica i match 5. Report inviato alla compagnia
23. 01 Visada: Debugging the Insurance Industry 1. Assicurazione invia le immagini 2. Anonimizzazione delle immagini 3. DAFNE analizza le immagini 4. Operatore verifica i match 5. Report inviato alla compagnia
24. 01 Visada: Debugging the Insurance Industry 1. Assicurazione invia le immagini 2. Anonimizzazione delle immagini 3. DAFNE analizza le immagini 4. Operatore verifica i match 5. Report inviato alla compagnia
25. 01 Visada: Debugging the Insurance Industry 1. Assicurazione invia le immagini 2. Anonimizzazione delle immagini 3. DAFNE analizza le immagini 4. Operatore verifica i match 5. Report inviato alla compagnia
26. 01 Visada: Debugging the Insurance Industry 1. Assicurazione invia le immagini 2. Anonimizzazione delle immagini 3. DAFNE analizza le immagini 4. Operatore verifica i match 5. Report inviato alla compagnia
27. 01 Visada: Debugging the Insurance Industry D.A.F.N.E. Digital Anti-Fraud Neural Engine Affidabile
28. 01 Visada: Debugging the Insurance Industry D.A.F.N.E. Digital Anti-Fraud Neural Engine Affidabile Scalabile
29. 01 Visada: Debugging the Insurance Industry D.A.F.N.E. Digital Anti-Fraud Neural Engine Affidabile Scalabile Veloce
30. 01 Visada: Debugging the Insurance Industry D.A.F.N.E. Digital Anti-Fraud Neural Engine Affidabile Scalabile Veloce AI-powered
31. 02 Container, microservizi e altre storie d’amore Uno sguardo dietro le quinte: dallo stack tech alla topologia dei servizi
32. 02 Container, microservizi e altre storie d’amore Global Extractor MS Damage Extractor MS Matcher MS API Relational DB Vector DB Storage Bucket Operators APP
33. 02 Container, microservizi e altre storie d’amore Global Extractor MS Damage Extractor MS Matcher MS API Relational DB Vector DB Storage Bucket Operators APP
34. 02 Container, microservizi e altre storie d’amore Global Extractor MS Damage Extractor MS Matcher MS API Relational DB Vector DB Storage Bucket Operators APP
35. 02 Container, microservizi e altre storie d’amore Global Extractor MS Damage Extractor MS Matcher MS API Relational DB Vector DB Storage Bucket Operators APP
36. 02 Container, microservizi e altre storie d’amore Global Extractor MS Damage Extractor MS Matcher MS API Relational DB Vector DB Storage Bucket Operators APP
37. 02 Container, microservizi e altre storie d’amore
38. 02 Container, microservizi e altre storie d’amore
39. Global Extractor MS Damage Extractor MS Matcher MS API Relational DB Vector DB Storage Bucket Operators APP 02 Container, microservizi e altre storie d’amore
40. Global Extractor MS Damage Extractor MS Matcher MS API Relational DB Vector DB Storage Bucket Operators APP 02 Container, microservizi e altre storie d’amore
41. Scalabilità Modularità Portabilità Da early stage a produzione senza rifare tutto Evoluzione indipendente degli elementi del sistema Osservabilità Liberà di cambiare provider Tenere tutto sotto controllo 02 Container, microservizi e altre storie d’amore
42. Scalabilità Modularità Portabilità Da early stage a produzione senza rifare tutto Evoluzione indipendente degli elementi del sistema Osservabilità Liberà di cambiare provider Tenere tutto sotto controllo Kubernetes 02 Container, microservizi e altre storie d’amore
43. Scalabilità Modularità Portabilità Da early stage a produzione senza rifare tutto Evoluzione indipendente degli elementi del sistema Osservabilità Liberà di cambiare provider Tenere tutto sotto controllo 02 Container, microservizi e altre storie d’amore
44. 02 Container, microservizi e altre storie d’amore
45. Scalabilità Modularità Portabilità Da early stage a produzione senza rifare tutto Evoluzione indipendente degli elementi del sistema Osservabilità Liberà di cambiare provider Tenere tutto sotto controllo 02 Container, microservizi e altre storie d’amore
46. Scalabilità Modularità Portabilità Da early stage a produzione senza rifare tutto Evoluzione indipendente degli elementi del sistema Osservabilità Liberà di cambiare provider Tenere tutto sotto controllo 02 Container, microservizi e altre storie d’amore
47. Scalabilità Modularità Portabilità Da early stage a produzione senza rifare tutto Evoluzione indipendente degli elementi del sistema Osservabilità Liberà di cambiare provider Tenere tutto sotto controllo 02 Container, microservizi e altre storie d’amore
48. + 02 Container, microservizi e altre storie d’amore
49. 02 Container, microservizi e altre storie d’amore
50. 02 Container, microservizi e altre storie d’amore
51. 02 Container, microservizi e altre storie d’amore
52. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Come versioniamo dati, modelli e esperimenti per un deploy affidabile e ripetibile
53. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Global Extractor MS Damage Extractor MS Matcher MS API Relational DB Vector DB Storage Bucket Operators APP
54. 03 From Notebook to Prod: pipeline MLOps sotto torch.io
55. Scalabile Conveniente Semplice Global Extractor MS Damage Extractor MS Matcher MS 03 From Notebook to Prod: pipeline MLOps sotto torch.io
56. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Evoluzione delle reti neurali Evoluzione dei dataset +
57. 03 From Notebook to Prod: pipeline MLOps sotto torch.io V1 V2 Evoluzione dei dataset
58. 03 From Notebook to Prod: pipeline MLOps sotto torch.io V1 V2 Evoluzione dei dataset Database Revisione match
59. 03 From Notebook to Prod: pipeline MLOps sotto torch.io V1 V2 Evoluzione dei dataset Database Revisione match Annotazioni
60. 03 From Notebook to Prod: pipeline MLOps sotto torch.io V2 V1 Evoluzione dei dataset Database Revisione match Annotazioni Merging
61. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Database Revisione match Dataset di non regressione Match positivi + 10% negativi
62. 03 From Notebook to Prod: pipeline MLOps sotto torch.io 1. Supporto per auto-annotazione 2. Interazione tramite API e SDK 3. Interfaccia personalizzabile 4. Supporto per collaborazione
63. 03 From Notebook to Prod: pipeline MLOps sotto torch.io 1. Supporto per auto-annotazione 2. Interazione tramite API e SDK 3. Interfaccia personalizzabile 4. Supporto per collaborazione
64. 03 From Notebook to Prod: pipeline MLOps sotto torch.io 1. Supporto per auto-annotazione 2. Interazione tramite API e SDK 3. Interfaccia personalizzabile 4. Supporto per collaborazione
65. 03 From Notebook to Prod: pipeline MLOps sotto torch.io 1. Supporto per auto-annotazione 2. Interazione tramite API e SDK 3. Interfaccia personalizzabile 4. Supporto per collaborazione
66. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Evoluzione delle reti neurali
67. 03 From Notebook to Prod: pipeline MLOps sotto torch.io SOTA model Dataset Metriche di performance Pubblico o privato Metriche di train Dataset di non regressione
68. 03 From Notebook to Prod: pipeline MLOps sotto torch.io
69. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Papers Implementazione Train and test Estensione codice pubblico o implementazione da 0 Performances sui dataset Velocità di esecuzione Impatto risorse Problemi simili con obiettivi differenti 6 months
70. 03 From Notebook to Prod: pipeline MLOps sotto torch.io PyTorch Lightning
71. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Carichi di lavoro elevati HW costoso da mantenere Basso costo / gratuito Notebook o Python classico Nessuna manutenzione
72. 03 From Notebook to Prod: pipeline MLOps sotto torch.io
73. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Efficienza Scalabilità Riduzione del rischio Migliori risultati in meno tempo Gestione di numeri elevati di modelli e dataset Monitoraggio continuo performances MLOps
74. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Efficienza Scalabilità Riduzione del rischio Gestione centralizzata modelli e dataset Monitoraggio train Gestione incrementale e tracciabile dataset e modelli Test tracciabili modelli
75. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Dataset versioning New data V1 V2 W&B run 10 GB 1 GB 10 + 1 GB
76. 03 From Notebook to Prod: pipeline MLOps sotto torch.io
77. 03 From Notebook to Prod: pipeline MLOps sotto torch.io
78. 03 From Notebook to Prod: pipeline MLOps sotto torch.io
79. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Global Extractor MS Damage Extractor MS Matcher MS V 1.0 V 2.0 latest
80. 03 From Notebook to Prod: pipeline MLOps sotto torch.io Non regression test Side by side test Production Piano per rollback?
81. Grazie per l’attenzione!
82. Giuseppe Tortorelli www.visada.it (+39) 392 2418181 giuseppe.tortorelli@visada.it Co-founder & CTO Fraud never sleeps, neither does DAFNE Nicola Fossati (+39) 334 9220705 nicola.fossati@visada.it Co-founder & Head of R&D