Cette semaine, mon invité est Sylvain Peyronnet. Il est le fondateur de Ix-Labs et directeur scientifique de Qwant. Curieuse comme je suis, je veux tout de suite comprendre son métier autour des algorithmes: chercheur en algorithmie (2’17) ainsi que son parcours universitaire (2’59).
L’éthique, un véritable défi algorithmique
L’éthique peut trouver sa place. Il « suffit » de penser les algorithmes différemment. Alors profitons de la simplicité de la problématique pour filer en 2050 (10’40).
En 2050, le champ des possibles sera immense, à commencer par la légèreté des interfaces entre nous et les objets connectés au Web pour nous simplifier la tâche. La voix sera à l’honneur (Hourra !). Ce qui cache de nombreux défis techniques…
Aujourd’hui, il n’y a pas de passerelles entre maturités technologiques & sociales
Pour Sylvain, l’enjeu des années à venir et du monde de 2050, c’est de comprendre, maîtriser et choisir in fine les mécanismes à l’œuvre entre nous Humains et les outils tels que les algorithmes. On ne mesure pas suffisamment les impacts sociaux possibles induits par un choix algorithmique. Sylvain souligne par des exemples concrets le potentiel structurant pour notre société d’utiliser tel ou tel processus de calcul pour précéder nos décisions : orientation, gestion de la criminalité, … A l’expression galvaudée d’intelligence artificielle, Sylvain préfère la plus claire « machine learning » qu’il prend le temps d’expliquer : Logique alors d’imaginer que des biais humains, parfois inconscients, y prospèrent.
Les biais reproduits par les algorithmes peuvent amplifier les déterminismes sociaux
Deux chemins sont ainsi possibles. Lequel prendra le pas en 2050 ? Sylvain n’est pas un solutionniste technologique et c’est sur le terrain du social, du politique qu’il voit les leviers pour des orientations choisies et éclairées. Mais la partie peut sembler biaisée justement… Les grands groupes du numérique et des technologies ont une vision et une gouvernance internationales face à des Etats qui ont du mal à jouer une partition commune.
Comprendre les enjeux est beaucoup plus important que de savoir coder
J’aime beaucoup l’image utilisée par Sylvain pour mettre en lumière cette problématique des biais. Les discussions, les échanges, naturellement corrigent les biais dont sont porteurs les uns et les autres. Certains algorithmes sont des boîtes noires : aucune transparence, aucun dialogue ouvert pour identifier des biais et de fait les corriger sort du champ des possibles.
Aux pouvoirs publics de structurer une pensée sociale autour du fait technologique
Sylvain a tellement raison quand il dit qu’on ne peut se contenter d’avoir une démarche productive au détriment d’une approche réflexive sur l’avenir des technologies.
Enfin, je demande à Sylvain de formuler un vœu (30’34).
———-
Pour aller plus loin, 4 livres conseillés par Sylvain :
- The Black Box Society, les algorithmes secrets qui contrôlent
l’économie et l’information, de Franck Pasquale aux éditions FYP - Pour tout résoudre cliquez ici : L’aberration du solutionnisme technologique, de Evgeny Morozov aux éditions FYP
- La démocratie Internet. Promesses et limites, de Dominique Cardon aux éditions Seuil
- A quoi rêvent les algorithmes: Nos vies à l’heure des big data, de Dominique Cardon aux éditions Seuil
Son article « Quelques bonnes raisons de quitter le monde académique ».
Episode enregistré le 31 octobre 2017