Smart City Day Biel/Bienne 2025

Presentation by Oleg Lavrovsky at https://smartcityday.ch

Brief overview of the history of open source AI leading up to publication of the Apertus model, with some perspectives on opportunities for involvement from the community & civil society.

Transcript

1. Les IAs ouvertes au service de la société civile Smart City Day Biel/Bienne 17.11.2024
2. dat.alets.ch Courte histoire 1998 - Sortie de Torch, framework d'apprentissage automatique open source 2007 - Début de scikit-learn, simplifiant l'IA en Python 2010 - Theano révolutionne le deep learning avec calcul automatique de gradients 2014 - Caffe accélère les réseaux de neurones convolutifs 2015 - TensorFlow de Google démocratise le deep learning à grande échelle 2016 - Keras simplifie l'utilisation des frameworks de deep learning 2017 - PyTorch d’origine à Facebook rend l'IA encore plus flexible et intuitive 2018 - Hugging Face Transformers ouvre l'accès aux modèles de langage pré-entraînés 2021 - Stable Diffusion popularise l'IA générative d'images open source 2023 - Llama de Meta accélère le développement des LLM open source 2024 - Des techniques Mixture-of-Experts conduit au lancement de DeepSeek 2025 - Lancement du Apertus, le premier Frontier Model entraîné en Suisse
3. dat.alets.ch Jorgebarrios CC BY 4.0 1995 2025
4. dat.alets.ch Bonjour, Apertus! Démocratiser les modèles de langage libres et conformes pour les environnements linguistiques mondiaux: modèles 8B et 70B à données et poids libres, multilingues dans plus de 1000 langues.
5. dat.alets.ch Vraiment ouvert. Apertus est disponible en tant que modèle ouvert: open source (Apache 2,0), open data (FineWeb 2 etc.), open weights (Transformers), maintenu par le Swiss AI Initiative, dirigé par l’EPFL, l’ETH et le CSCS et la communauté d’utilisateurs.
6. dat.alets.ch Data science. (Not rocket science) Il s’agit du software appliquant des statistiques avancées à d'énormes volumes de données avec un réseau neuronal comme base d’une architecture complexe.
7. dat.alets.ch Les grandes questions Les défis pour les individus comme les laboratoires et entreprises suisses: Où investir les ressources? Notre infrastructure IT est-elle prête? Qu'avons-nous le droit de faire (RGPD, compliance)? Comment commencer avec les "Quick Wins"?
12. dat.alets.ch Use cases pour le.. Planification urbaine?
14. dat.alets.ch API MCP service pour le.. Transport public?
15. dat.alets.ch chat.publicai.co
16. dat.alets.ch Défis de la société civile
17. + souverain + durable + fiable ALLONS Y! Nous voulons encourager l’innovation, l’acces libre, et promouvoir le projet en lançant et en soutenant des initiatives divers, ainsi qu’en créant des synergies et des partenariats avec des projets citoyens pertinents.
18. dat.alets.ch Nous allons créer une association à but non lucratif qui sera l’instance dirigeante responsable de la maintenance et du développement des cas d’utilisation de l’extrémité d’inférence développée par le Swiss AI Initiative, Public AI et des modèles Apertus hébergés en interne.
19. Merci! Danke! Grazie! oleg@datalets.ch Github.com/loleg HuggingFace.com/loleg This presentation is licensed CC BY 4.0