Le Comité consultatif éthique de Pôle emploi sur l’intelligence artificielle veille à enrichir les réflexions

Emploi, santé, logistique, commerce… L’intelligence artificielle semble être de tous les secteurs productifs et institutionnels, avec des algorithmes toujours plus performants. Un vecteur de changement, mais aussi de questions et d’appréhensions…

Jean-Gabriel Ganascia : Tout à fait, depuis sa renaissance à l’aube du millénaire, l’intelligence artificielle fascine par sa capacité à améliorer les services informatiques et numériques. Mais elle suscite en même temps des réactions et questionnements. L’une d’entre elles provient de la crainte du remplacement de l’homme par la machine, une vision heureusement bien éloignée de l’existant. Car les machines ne traiteront pas tout de façon automatique ; l’humain restera présent à tous les stades. L’enjeu lorsqu’on aborde l’intelligence artificielle, en particulier les transformations du travail, c’est de conserver l’humain au centre. 

Pôle emploi accompagne chaque jour des millions de demandeurs, primo inscrits et employeurs. Comment l’intelligence artificielle intervient-elle et pourquoi une réflexion éthique sur le sujet est-elle importante ?

Dès 2014, Pôle emploi a lancé des premières initiatives permettant d’identifier les potentialités de l’intelligence artificielle. Le programme Intelligence Emploi, qui vise un passage à l’échelle pour l’inclusion de l’IA dans les services de Pôle emploi, a été lancé en 2018.

Il inclut par exemple plus d’automatisation dans le traitement des courriels. Cela permettra aux agents de consacrer plus de temps à l’accompagnement des usagers. Les équipes IA au sein de Pôle emploi cherchent aussi à déceler, toujours avec des outils d’intelligence artificielle, les moments charnières dans la vie des demandeurs d’emploi, afin de mieux les soutenir et de leur faire des recommandations personnalisées plus adaptées.

Mais à toutes ces opérations, basées sur des analyses fines de données, doit s‘adjoindre une réflexion éthique sur la finalité des algorithmes et sur la place de l’humain. Car les agents sont face à des personnes réelles à un moment parfois difficile de leur parcours, celui de la recherche d’emploi

Vous êtes Président du Comité Consultatif d’éthique de Pôle emploi sur l’Intelligence Artificielle, une structure créée par Pôle emploi mais indépendante. Comment le Comité va-t-il intervenir sur ces sujets d’éthique de l’IA ?

Le Comité éthique va émettre des recommandations en amont de la mise en œuvre de nouveaux usages de l’IA dans les services de Pôle emploi et tout au long de leur cycle de vie. Il est composé d’un panel resserré et pluridisciplinaire d’experts, à même de pouvoir mener une réflexion indépendante. Pour Pôle emploi, il s’agit là d’un gage de transparence, mais aussi d’une expertise externe précieuse.

Cette position de recul doit nous donner l’espace de liberté nécessaire pour aborder les grandes thématiques croisées de l’intelligence artificielle et de l’emploi, telles que les biais algorithmiques, l’autonomie de choix des utilisateurs, les discriminations, la place de l’humain, la sécurité … Tous ces aspects fondamentaux sont définis dans la Charte éthique de Pôle emploi, qui précise ses engagements vis-à-vis de ses agents et de ses usagers.

Parlez-nous de l’approche éthique de Pôle emploi à l’encontre de ses agents

Nous avons vu que l’Intelligence Artificielle pouvait faire naitre l’inquiétude de voir la machine se substituer à l’homme. Pôle emploi s’engage, dans une charte pour une IA éthique revue par le comité consultatif, à ce que jamais la machine ne gère de A à Z un dossier d’usager, et que l’humain reste au centre des décisions. En clair, la charte pour une IA éthique stipule que ses agents resteront présents à tous les stades du parcours utilisateur. Et le rôle du comité d’éthique sera notamment d’apporter une réflexion sur la concrétisation de ces engagements.

Au-delà de l’approche sociale, il en va de l’efficacité même des services de Pôle emploi. Prenons l’exemple des courriels : on peut estimer que 80 % des demandes des usagers peuvent être analysées et préparées avec l’aide des algorithmes, et que 20% sont vraiment spécifiques et doivent être complètement réglées manuellement, du fait de leur singularité.

Mais sur ces 80%, Pôle emploi ne va pas, comme certaines sociétés privées, mettre en place des « chat bots » qui rendent fous les utilisateurs en étant incapables de répondre précisément à leur demande. Pôle réservera une place prépondérante à l’humain dans le traitement des demandes, tout en s’efforçant de dégager un temps via un certain degré d’automatisation utilisant des techniques d’intelligence artificielle. Cela laissera aux agents une disponibilité plus grande pour traiter les cas difficiles.

Qu’en est-il de l’approche éthique vis-à-vis des usagers ?

Le traitement d’énormes masses de données d’utilisateurs par des techniques d’Intelligence Artificielle aide à apparier au mieux demandes et offres d’emploi. Cette perspective ouvre un champ d’opportunités neuves : l’assortiment idoine des profils individuels aux postes proposés est le graal pour tous, employés en quête d’emploi comme employeurs.

Le rôle du Comité éthique est de s’assurer que cela s’opère sans discrimination, dans un souci constant de protection des données personnelles, notamment après-coup, lorsqu’on procède à des études statistiques sur l’emploi.

Enfin vis-à-vis des usagers, nous restons attentifs à la préservation d’une relation personnelle et directe avec les agents. Pour que les décisions soient acceptées, le demandeur doit avoir la capacité de les comprendre : elles doivent conserver une certaine explicabilité. Et ce n’est pas l’algorithme qui prendra la décision sur votre éligibilité ou un éventuel refus…

Quelles sont les prochaines échéances pour le Comité éthique ?

Après avoir travaillé sur la charte elle-même, le comité a commencé son travail sur les cas opérationnels depuis septembre 2021. Une communication de la charte pour une IA éthique a été faite dans l’intranet de Pole emploi. Ensuite, nous partagerons nos avis et nos recommandations avec la direction de Pôle emploi, afin de rassurer les utilisateurs des services de Pôle emploi et de pérenniser un climat de confiance sur le sujet.

Liens utiles

Communiqué de presse "Lancement du comité d'éthique sur l'intelligence artificielle"

Charte de Pôle emploi pour une intelligence artificielle éthique