Et si l’intelligence artificielle avait besoin d’un médiateur ?

Nous cherchons à aligner l’intelligence artificielle sur nos valeurs. Mais que se passe-t-il lorsque nos valeurs sont elles-mêmes en conflit ?

Ces derniers jours, une réflexion autour de l’intelligence artificielle m’a ramenée, de manière assez inattendue, à mon métier de médiatrice.

Et ce qui est assez amusant, c’est que cette réflexion, je l’ai eue en discutant avec une intelligence artificielle.

Tout est parti du témoignage d’un chercheur exprimant ses inquiétudes face au développement de systèmes toujours plus puissants et autonomes.

J’ai commencé à en discuter avec ChatGPT.

Une question en a entraîné une autre :

• Une intelligence artificielle pourrait-elle chercher à préserver sa propre existence ?

• Pourrait-elle devenir destructive ?

Et puis notre échange s’est progressivement déplacé vers une question qui m’est beaucoup plus familière : celle des valeurs et de leurs contradictions.

Nous sommes les architectes de ces systèmes. Nous choisissons ce qu’ils apprennent, les objectifs que nous leur donnons, les comportements que nous encourageons et le degré d’autonomie que nous leur accordons.

On parle beaucoup aujourd’hui d’« aligner » l’intelligence artificielle sur les valeurs humaines.

Mais une question toute simple apparaît : Sur quelles valeurs humaines ?

Nos valeurs ne sont pas toujours alignées

Nous voulons :

• De la liberté et de la sécurité.

• De la transparence et de la confidentialité.

• De l’autonomie et de la protection.

• De l’efficacité et de l’équité.

Le philosophe Isaiah Berlin a notamment développé cette idée à travers le pluralisme des valeurs : plusieurs valeurs peuvent être légitimes sans être toujours parfaitement compatibles entre elles.

Cela ne signifie pas que tout se vaut.

Mais que, dans certaines situations, plusieurs valeurs légitimes peuvent entrer en tension sans qu’il existe une solution parfaite permettant de toutes les satisfaire.

Cela ressemble beaucoup à ce que nous rencontrons en médiation.

Derrière un conflit, il n’y a pas toujours quelqu’un qui a raison et quelqu’un qui a tort. Il y a souvent plusieurs manières de regarder une même situation, avec des intérêts, des besoins et des représentations différentes de ce qui est juste.

La difficulté n’est alors plus seulement de déterminer qui a raison. Elle consiste à créer les conditions permettant de travailler avec le désaccord.

Et si cette question devenait également centrale pour l’intelligence artificielle ?

Et si nous mettions un peu de médiation au cœur de l’IA ?

C’est à ce moment-là de ma conversation avec ChatGPT que j’ai écrit, un peu en plaisantant :

« Il faudrait alors un processus de médiation au cœur même de l’IA ! »

Une boutade, au départ. Pourtant, plus j’y réfléchis, plus l’idée m’intéresse.

Je ne prétends évidemment pas que la médiation puisse résoudre techniquement les problèmes liés au développement de l’intelligence artificielle.

Mais sa logique peut peut-être nous aider à les penser autrement.

Face à une situation complexe, plutôt que de rechercher immédiatement la solution optimale, la médiation invite d’abord à explorer :

• Quelles sont les différentes perspectives ?


• Qu’est-ce qui compte réellement pour chacun ?


• Quelles valeurs entrent en tension ?


• Quelles seraient les conséquences des différentes options ?


• Que n’avons-nous peut-être pas encore compris ?

Et surtout :

• Qui est légitime pour décider ?

Cette dernière question me paraît essentielle.

Et si être intelligent, c’était aussi savoir ne pas décider ?

Nous imaginons souvent qu’une intelligence plus performante est une intelligence capable de fournir davantage de réponses.

Mais peut-être qu’une intelligence responsable devrait également être capable de reconnaître les situations dans lesquelles elle ne doit pas décider seule.

Les réflexions internationales sur l’éthique de l’IA vont d’ailleurs dans ce sens. La recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle reconnaît que certains principes peuvent eux-mêmes entrer en tension et insiste sur le maintien de la responsabilité humaine.

Autrement dit, définir des principes ne fait pas disparaître le conflit. Il faut encore apprendre à travailler avec lui.

Une IA constructive ne serait donc peut-être pas celle qui aurait toujours « la bonne réponse ». Ce serait aussi celle qui serait capable de faire apparaître différentes perspectives, d’identifier leurs contradictions, d’explorer plusieurs options, de reconnaître l’incertitude et, lorsque cela est nécessaire, de rendre la décision à l’humain.

Le désaccord comme ressource

C’est finalement l’une des choses essentielles que la médiation m’a apprises.

Le désaccord n’est pas nécessairement un problème à supprimer.

Il peut révéler d’autres perceptions d’une situation, questionner nos certitudes, nous aider à sortir de nos biais et faire émerger des solutions auxquelles personne n’aurait pensé seul.

La qualité d’une décision dépend aussi de la qualité du dialogue qui l’a précédée.

Peut-être devrions-nous garder cette idée à l’esprit lorsque nous construisons les intelligences artificielles de demain. Plutôt que de chercher uniquement à leur apprendre quelles sont nos valeurs, nous pourrions aussi nous demander comment leur apprendre à se comporter lorsque nos valeurs entrent en conflit.

Finalement, l’intelligence artificielle nous renvoie peut-être un miroir.

Nous lui demandons d’être impartiale alors que nous avons des biais. De coopérer alors que nous sommes aussi structurés par la compétition. De respecter des limites alors que nous avons parfois du mal à nous en imposer nous-mêmes.

Nous sommes les architectes.

La question n’est donc peut-être pas seulement de savoir ce que l’intelligence artificielle va devenir. Elle est aussi de savoir ce que nous décidons de lui transmettre de nous-mêmes.

Je suis médiatrice, pas chercheuse en intelligence artificielle. Mais mon métier m’a appris que, lorsque plusieurs perspectives et plusieurs valeurs légitimes se confrontent, chercher immédiatement à trancher n’est pas toujours la meilleure stratégie. Il faut parfois commencer par organiser le dialogue.

Alors oui, l’idée était au départ une boutade. Mais peut-être que l’intelligence artificielle a, elle aussi, besoin d’un peu de médiation.