#15 – Les algorithmes sont-ils sournois avec Luc de Brabandere
proposée par Jean-Philippe Clément
Diffusée le 23 décembre 2023
Contexte
Contexte« Parlez-moi d’IA » est un programme de vulgarisation de la data et de l’IA. Les échanges sont le moins technique possible. L’émission prend la forme d’un dialogue entre Jean-Philippe CLEMENT et son invité.e. où ils cherchent à comprendre et expliquer ce qui change dans nos vies, dans nos métiers, dans notre société avec cette évolution technologique de la data et de l’IA.
EN PLATEAU
Cette semaine je reçois Luc de Brabandere, ingénieur, philosophe, auteur prolifique (d’une vingtaine d’ouvrages), belge (ça c’est lui qui le précise). Luc de Brabandere vient nous voir pour nous parler du 7e tome de ces petites philosophies qu’il publie aux éditions Eyrolles. Cette fois c’est une « Petite philosophie des algorithmes sournois ».
Avec ce petit livre efficace, l’auteur revient sur la situation actuelle de nos données et de notre profilage sur les réseaux et sur tous les sites consultés. Cela nous enferme dans des cases sauf quand on finit, comme le journaliste Mat Honan de Wired, par tout liker sur son passage et que l’on fait dérailler du même coup l’algorithme sensé nous profiler.
Nous sommes également revenus sur les conséquences des biais accrochés aux concepteurs d’algorithme et sur l’éventualité d’un algo puisse avoir des fondements idéologiques même sans le savoir et surtout sans le dire. C’est cela qui est sournois. Tout cela plaide pour un maximum de transparence et donc pour l’Open Source.
Luc de Brabandere nous permet surtout d’utiliser les concepts et les grandes questions de la philosophie pour éclairer notre manière d’aborder les algorithmes et l’IA. Comment faut-il aborder la question du vrai et du faux? Celle du réel et du virtuel? Quelle posture adopter (Actif/passif et rationnel/irrationnel) face aux évolutions liées à l’IA? Comment les études montrent notre perte de rationalité? Comment les spécialistes des sciences cognitives sont venus aider les datascientists à pirater notre attention?
Notre invité nous rappelle qu’un algorithme aura encore longtemps du mal à réfléchir comme nous. Ils ne savent pas tout de nous du fait de notre identité (plurielle et recomposée en permanence) et de nos émotions.
Je rappelle tout de même au philosophe qu’une étude récente (découverte grâce à la newsletter IA Pulse d’Olivier Martinez) montre que la créativité humaine est challengée par celle des IA en utilisant les tests de créativité de Torrance.
PAUSE MUSICALE
Programmation musicale proposée par Garlaban
The end has No End, The Strokes, de l’album Room of fire
Réalisation : Jérôme Sorrel / Montage final et mise en ligne : Olivier Grieco.
Ressources
- Petite philosophie des algorithmes sournois aux éditions Eyrolles
https://www.eyrolles.com/Loisirs/Livre/petite-philosophie-des-algorithmes-sournois-9782416013089/ - Tests de créativité de Torrance
https://fr.wikipedia.org/wiki/Tests_de_cr%C3%A9ativit%C3%A9_de_Torrance - S’abonner à IA Pulse Week-end
https://iapulse.substack.com/subscribe - L’article de The Conversation « AI scores in the top percentile of creative thinking » repéré grâce à IA Pulse Week-end
https://theconversation.com/ai-scores-in-the-top-percentile-of-creative-thinking-211598 - Etude menée par Marten Scheffer, L’ascension et la chute de la rationalité dans le langage, Actes de la National Academy of Sciences (2021). DOI : 10.1073/pnas.2107848118.
https://www.pnas.org/content/118/51/e2107848118
L’émission est également disponible chez les diffuseurs suivants :
Sauf mention contraire et autres licences applicables cette œuvre sonore de Cause Commune est mise à disposition selon les termes de la
Licence Creative Commons Attribution - Partage dans les Mêmes Conditions 4.0 International.