Slide 1
Slide 1 text
QUELLE ÉTHIQUE POUR
LE DÉVELOPPEUR/LA DÉVELOPPEUSE
DE DEMAIN ?
Sandrine Banas
AGILE GRENOBLE
2023
Slide 2
Slide 2 text
Experte technique
JAVA chez CGI
Pas une philosophe
@cosjava
Sandrine Banas
Slide 3
Slide 3 text
No content
Slide 4
Slide 4 text
No content
Slide 5
Slide 5 text
Moral vs Ethique
Slide 6
Slide 6 text
latin moralis, de mores, mœurs
Moral vs Ethique
Slide 7
Slide 7 text
latin moralis, de mores, mœurs
Moral vs Ethique
grec êthikos, moeurs
Slide 8
Slide 8 text
les règles de conduite
concepts de bien et de mal
Moral vs Ethique
Slide 9
Slide 9 text
Les règles de conduite
Concepts de bien et de mal
Moral vs Ethique
Qui concerne la morale.
Slide 10
Slide 10 text
Moral vs Ethique
USAGE
Slide 11
Slide 11 text
Moral
Bien et le mal
Intemporel
Société
vs Ethique
Bon et mauvais
Vie de tous les jours
Individuel
Slide 12
Slide 12 text
No content
Slide 13
Slide 13 text
No content
Slide 14
Slide 14 text
No content
Slide 15
Slide 15 text
Article 4 (article R.4127-4 du code de la santé
publique)
Le secret professionnel, institué dans l'intérêt des
patients, s'impose à tout médecin dans les conditions
établies par la loi.
Le secret couvre tout ce qui est venu à la connaissance
du médecin dans l'exercice de sa profession, c'est-à-dire
non seulement ce qui lui a été confié, mais aussi ce qu'il
a vu, entendu ou compris.
Médecins
Slide 16
Slide 16 text
• Choix des études supérieures (parcoursup)
• Traitement médical
• Voitures autonomes
• Autorisation de prêts bancaires
• Accès à la vie privée
• Drones militaires
Slide 17
Slide 17 text
No content
Slide 18
Slide 18 text
• Malware
• Rançongiciel
• Hacking/vol de données
• Hameçonnage
• Virus
• etc.
Slide 19
Slide 19 text
No content
Slide 20
Slide 20 text
No content
Slide 21
Slide 21 text
No content
Slide 22
Slide 22 text
No content
Slide 23
Slide 23 text
Vous êtes parmi les rares
employés à avoir les accès au
cloud de l’entreprise et vous
avez été licencié... Que faites-
vous ?
Slide 24
Slide 24 text
https://www.nbcnews.com/tech/security/fired-it-employee-online-indiana-college-offered-help-unlock-google-n708421
Slide 25
Slide 25 text
• Comportement professionnel, respectueux et courtois
• Efficacité et qualité du travail
• Honnêteté
• Utilisation du matériel à des fins professionnels
• Confidentialité
• Eviter les conflits d’intérêts
• Avertir rapidement en cas de problème
Slide 26
Slide 26 text
• Environnement de travail non toxique
• Frais de déplacement couverts
• Heures supplémentaires payées
• Investissement dans la formation
• Opportunités de carrière
• Equilibre vie privée/vie professionnelle
Slide 27
Slide 27 text
Le développeur ou la développeuse adopte un
comportement professionnel au sein de son
entreprise, notamment il ou elle fournit un travail
efficace et de qualité et a un comportement
respectueux, honnête et courtois.
Slide 28
Slide 28 text
No content
Slide 29
Slide 29 text
Votre client a un site faisant des recommandations
shopping à ses utilisateurs. Il commence à y ajouter
ses propres produits et demandent qu’ils soient
recommandés en priorité même si un autre produit
correspondrait mieux à la recherche de l’utilisateur.
Slide 30
Slide 30 text
No content
Slide 31
Slide 31 text
https://www.midilibre.fr/2022/12/20/pratiques-deloyales-decouvertes-sur-amazon-comment-le-geant-du-commerce-va-eviter-des-milliards-de-dollars-
damende-10880466.php
Slide 32
Slide 32 text
Recommandations d’un produit ou d’un contenu (article,
vidéo, musique...), en utilisant:
• le filtrage collaboratif
• le contenu
• vos données personnelles, préférences, historique...
• etc.
Slide 33
Slide 33 text
No content
Slide 34
Slide 34 text
https://www.theguardian.com/technology/2018/feb/02/how-youtubes-algorithm-distorts-truth
Slide 35
Slide 35 text
Août 2023 (grosses plateformes) / Février 2024
TRANSPARENCE
• Système de recommandation sans profilage
Slide 36
Slide 36 text
No content
Slide 37
Slide 37 text
No content
Slide 38
Slide 38 text
https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G
Slide 39
Slide 39 text
http://gendershades.org/overview.html
Slide 40
Slide 40 text
http://gendershades.org/overview.html
Slide 41
Slide 41 text
https://www.nytimes.com/2020/12/29/technology/facial-recognition-misidentify-jail.html
Slide 42
Slide 42 text
Un biais algorithmique est un
problème dans un programme
qui causera la production de
résultats inéquitables, voire
discriminatoires.
Slide 43
Slide 43 text
Le développeur ou la développeuse se doit
d’assurer l’équité et la neutralité de ses algorithmes.
Les algorithmes de recommandation ne doivent
pas favoriser la désinformation, les discours haineux
ou la discrimination. Leur fonctionnement doit être
transparent pour l’utilisateur.
Slide 44
Slide 44 text
No content
Slide 45
Slide 45 text
Le client a fait de l’A/B testing sur son site, et se
rend compte que si il met en plus petit et en grisé le
texte indiquant que faire une réservation
s’accompagne d’une assurance (à moins de
décocher la case), plus de gens souscrivent
l’assurance.
Slide 46
Slide 46 text
Détournement
Slide 47
Slide 47 text
2010 - Harry Brignull
“Une interface utilisateur qui a été soigneusement
conçu pour tromper les utilisateurs à faire des
choses comme acheter une assurance avec leur
produit ou signer pour un abonnement.”
Slide 48
Slide 48 text
Duper l’utilisateur
Instaurer un sentiment d’urgence
Détournement de l’attention
Preuve/pression sociale
Donner une impression de rareté
Obstruction
Forcer une action
Dark Patterns at Scale: Findings from a Crawl of 11K Shopping Websites (ARUNESH MATHUR & co)
Slide 49
Slide 49 text
URGENC
E
RARET
E
PREUVE
SOCIALE
Slide 50
Slide 50 text
https://www.cnil.fr/fr/cookies-sanction-de-60-millions-deuros-lencontre-de-microsoft-ireland-operations-limited
Obstruction
Slide 51
Slide 51 text
“Par conséquent, il devrait être interdit pour les
fournisseurs de services intermédiaires de tromper
ou d’encourager dans ce sens les bénéficiaires de
services et d’entraver l’autonomie, la décision ou le
choix des bénéficiaires, ou d’y nuire, par la
structure, la conception ou la fonction d’une
interface en ligne ou d’une partie de celle-ci
(«interfaces truquées»).”
Amendement 40
https://www.europarl.europa.eu/doceo/document/TA-9-2022-0014_FR.html
Slide 52
Slide 52 text
No content
Slide 53
Slide 53 text
No content
Slide 54
Slide 54 text
No content
Slide 55
Slide 55 text
Renforcement positif intermittent
Excitation/anticipation
Besoin
Récompense
Slide 56
Slide 56 text
http://minimizedistraction.com/
https://www.humanetech.com/
“Jamais auparavant dans l’histoire les décisions d’un groupe de
designers (essentiellement des hommes, blancs, vivant à San Francisco,
âgés entre 25 et 35 ans) travaillant dans 3 compagnies (Google, Apple et
Facebook) n’ont eu un tel impact sur la façon dont des millions de
personne autour du monde dépensent leur attention.”
Tristan Harris
Slide 57
Slide 57 text
Dieter Rams - 10 principes du bon design (1970):
• Innovant
• Utile
• Esthétique
• Compréhensible
• Discret
• Honnête
• Durable
• Exhaustif
• Ecologique
• Minimaliste
https://www.vitsoe.com/gb/about/good-design
Slide 58
Slide 58 text
Le développeur ou la développeuse ne doit pas
manipuler les utilisateurs, porter atteinte à leur
autonomie ou poser un risque pour la santé mentale
notamment en utilisant des dark patterns. Il ou elle doit
s’assurer que ses produits numériques aient un design
honnête.
Slide 59
Slide 59 text
No content
Slide 60
Slide 60 text
Un client met en place un service de shopping
alimentaire, et par manque de temps décide de
couper les coûts en ne prenant pas en compte
l’accessibilité.
Slide 61
Slide 61 text
Environnemental Inclusif
Fracture
numérique
Handicap
Mixité
Slide 62
Slide 62 text
Handicaps physiques, mentaux, psychiques, cognitifs, limitations
sensorielles ou des maladies invalidantes.
1 français sur 6 souffre de handicap en France
+ altérations situationnelles
+ altérations temporaires
Slide 63
Slide 63 text
3,7%
des pages d’accueil accessibles
Texte faible contraste
Manque le texte alternatif (alt=””)
Label dans les formulaires (, aria-label, title...)
https://webaim.org/projects/million/
Slide 64
Slide 64 text
Services numériques publics
Entreprises privées dépassant 250 millions d’euros de CA
Entreprises fournissant des produits et services (mars 2023 => 2025)
Obligations=> déclaration de conformité + plan pluriannuel
Sanction de 20 000 euros par an...
https://webaim.org/projects/million/
Slide 65
Slide 65 text
No content
Slide 66
Slide 66 text
15% de la population française
https://www.insee.fr/fr/statistiques/7633654
Slide 67
Slide 67 text
CERTICODE
https://www.arcep.fr/actualites/actualites-et-communiques/detail/n/equipements-et-usages-du-numerique-300123.html
Slide 68
Slide 68 text
3.8%
des émissions de gaz à effets de serre
Slide 69
Slide 69 text
10 à 15%
de la production électrique
Consommation
électrique
1. Fabrication du
matériel
2.
75%
Slide 70
Slide 70 text
10 à 15%
de la production électrique
Consommation
électrique
Slide 71
Slide 71 text
Prise en compte des aspects écologiques dans la
conception de produits ou de services numériques en
réduisant leurs impacts environnementaux tout au long
de leur cycle de vie.
Slide 72
Slide 72 text
https://gr491.isit-europe.org/
Slide 73
Slide 73 text
Le développeur ou la développeuse se doit de favoriser
l’inclusion aussi bien pour les utilisateurs (mise en place de
l’accessibilité, limiter la fracture numérique…) que pour ses
collègues.
Le développeur ou la développeuse doit essayer de
maîtriser l’impact environnemental de ses applications en
surveillant particulièrement les risques d’obsolescence du
matériel.
Slide 74
Slide 74 text
No content
Slide 75
Slide 75 text
Toute œuvre originale, du simple fait de son
existence (peu importe sa beauté ou son
utilité) est couverte par le droit d’auteur, et
ce pendant toute la vie de son auteur jusqu’à
une période de 70 ans après son décès.
Slide 76
Slide 76 text
Effort intellectuel
Empreinte de la personnalité de l’auteur
Films, photos, dessins, peintures, logiciels...
Algorithmes ? Code source ?
Slide 77
Slide 77 text
“les programmes sources sont pareillement
protégés par le code de la propriété
intellectuelle, ainsi que les codes sources,
dans la mesure où ils sont la matérialisation
d’un effort intellectuel dans une
structuration individualisée. “
Slide 78
Slide 78 text
L’utilisateur de l’IA ?
Le producteur de l’IA ?
Cotitularité ?
Slide 79
Slide 79 text
No content
Slide 80
Slide 80 text
https://webaim.org/projects/million/
Slide 81
Slide 81 text
Le développeur ou la développeuse respectera
la propriété intellectuelle de ses pairs,
notamment pour les images, logiciels, icônes,
texte et code source. Il ou elle devra apposer
l’empreinte de sa personnalité sur tout
contenu généré par IA.
Slide 82
Slide 82 text
No content
Slide 83
Slide 83 text
Vous avez accès à la base de données de production
d’un grand site de vente en ligne, y cherchez-vous
l’historique d’achats de vos connaissances... ?
Slide 84
Slide 84 text
https://www.frandroid.com//
Slide 85
Slide 85 text
https://www.techspot.com/news/98228-tesla-workers-shared-private-intimate-videos-customer-vehicles.html
Slide 86
Slide 86 text
Traitement des données personnelles:
Transparence
Objectif
Durée de conservation
Respect du droit des utilisateurs
https://webaim.org/projects/million/
Slide 87
Slide 87 text
https://www.cnil.fr/fr/publicite-personnalisee-criteo-sanctionne-dune-amende-de-40-millions-deuros
Slide 88
Slide 88 text
Le développeur ou la développeuse se doit d’être
transparent.e auprès des utilisateurs sur la collecte de leurs
données personnelles et l’objectif de cette collecte, de les
protéger, de les garder uniquement le temps nécessaire
pour que l’objectif initial de la collecte soit rempli, de ne les
utiliser que dans le cadre de cet objectif, de respecter les
droits de l’utilisateur et en particulier sa vie privée.
Slide 89
Slide 89 text
No content