Séquence 2 – Le smartphone, entre innovation et responsabilité · Activité 3

Situation déclenchante — L'application LexIA

Une nouvelle application de messagerie, LexIA, intègre une intelligence artificielle capable de traduire automatiquement les conversations, de proposer des réponses toutes faites et de filtrer les messages considérés comme offensants. Certains utilisateurs trouvent ces fonctions pratiques, tandis que d'autres dénoncent des erreurs de traduction, des messages mal interprétés et des blocages injustifiés de certains contenus. Des associations s'interrogent sur les biais de l'IA et sur les conséquences de ces choix techniques pour les utilisateurs.

Les grands types d'apprentissage de l'IA

• Apprentissage supervisé : l'IA s'entraîne sur des milliers d'exemples étiquetés. Un filtre anti-spam apprend à reconnaître les spams car on lui a montré des milliers d'emails classés "spam" / "pas spam". LexIA utilise ce type pour filtrer les messages offensants.
• Apprentissage non supervisé : l'IA découvre seule des structures dans les données, sans réponses préétablies. Utile pour regrouper des utilisateurs par profil ou détecter des comportements inhabituels.
• Apprentissage par renforcement : l'IA apprend en interagissant avec son environnement et en recevant des récompenses. Utilisé pour les agents conversationnels qui s'améliorent à chaque interaction.

Usages de l'IA dans les moyens de communication

• Géolocalisation : prédiction du trajet le plus rapide en fonction du trafic en temps réel.
• Traduction automatique : reconnaissance du contexte et adaptation de la langue (LexIA).
• Identification : reconnaissance faciale pour déverrouiller le téléphone ou identifier une personne sur une photo.
• Calcul de trajet : optimisation d'itinéraires multi-modaux (marche + transports + voiture).
• Assistants vocaux : compréhension du langage naturel et génération de réponses pertinentes.

La notion de biais algorithmique

Un biais est une erreur systématique dans les résultats d'une IA. Il apparaît lorsque les données d'entraînement ne sont pas représentatives de la réalité ou lorsque des choix de conception défavorisent certains groupes. Exemple célèbre : des systèmes de reconnaissance faciale ont montré des taux d'erreur beaucoup plus élevés sur les personnes à peau foncée, car les données d'entraînement comportaient principalement des visages de personnes à peau claire.

Conséquences des biais dans LexIA

Dans le cas de LexIA, les biais peuvent prendre plusieurs formes :

• Biais de traduction : certains dialectes ou langues régionales sont moins bien représentés dans les données d'entraînement → erreurs de traduction plus fréquentes pour ces communautés.
• Biais de modération : des expressions culturelles ou argotiques sont bloquées à tort car le filtre n'a pas appris leur contexte positif.
• Biais de recommandation : les réponses suggérées reflètent les biais des données collectées (âge, genre, culture).

Débat — « Les biais de l'IA : un mal nécessaire ? »

Certains défenseurs de l'IA estiment que les biais sont inévitables dans tout système apprenant et que leurs avantages compensent leurs limites. D'autres affirment qu'un biais dans un outil utilisé par des millions de personnes peut amplifier des inégalités à grande échelle. Le débat porte aussi sur la transparence algorithmique : les utilisateurs ont-ils le droit de savoir comment les décisions de l'IA sont prises ?

Films et séries recommandés sur l'IA

• Her (2013) — Une IA développe une relation avec son utilisateur.
• Ex Machina (2014) — Les frontières entre intelligence humaine et artificielle.
• Black Mirror — Épisodes sur les dérives des technologies numériques.
• Coded Bias (2020, documentaire) — Les biais raciaux dans les systèmes de reconnaissance faciale.

Propositions d'amélioration responsable

Pour rendre LexIA plus responsable, on peut proposer :

• Diversifier les données d'entraînement pour représenter toutes les langues et cultures.
• Permettre aux utilisateurs de signaler un biais et d'en comprendre la cause.
• Mettre en place une supervision humaine pour les cas ambigus.
• Rendre les critères de modération publics et auditables.

Ressources

• OST1e — Les grands types d'apprentissage des intelligences artificielles et leurs usages possibles
  ▶ Voir la vidéo OST1e
• OST1f — Les incidences sociétales, notamment l'étude du biais et de l'effet de l'usage d'une intelligence artificielle
  ▶ Voir la vidéo OST1f
• FOST1e · FOST1f — Fiches de connaissances
  ↗ Accéder aux fiches (app.sti-ac-bordeaux.fr)
• QVOST1e · QVOST1f — Quiz de vérification
  ↗ Accéder aux quiz (app.sti-ac-bordeaux.fr)