La corruption et l’égoïsme débridé semblent partout. On le voit quand des gens ou des entreprises sont prêts à détruire des ressources naturelles, à polluer des rivières ou à exploiter autrui, le tout pour leur propre profit. Ces actes visent souvent un gain à court terme, et le mal retombe sur des groupes précis, parfois sur des régions entières, des pays, voire l’humanité tout entière.
On aurait pu espérer que la technologie, et l’intelligence artificielle en particulier, nous aiderait à dépasser tout cela. Un système impartial, qui prend des décisions rationnelles sans biais humains, a tout de l’idéal.
L’IA, si puissante soit-elle, n’est pas le sauveur espéré. Elle est entraînée sur nos comportements et nos données, et elle porte les mêmes biais et les mêmes défauts que nous.
Elle sait aussi mieux argumenter que nous, à une condition. Dans une étude publiée dans Nature Human Behaviour en mai 2025, GPT-4, lancé dans des débats en ligne face à des inconnus, s’est révélé plus persuasif que son adversaire humain dans 64,4 % des appariements où les deux étaient en désaccord, mais uniquement quand on lui avait fourni quelques données démographiques de base sur la personne en face. Privé de cette personnalisation, il ne convainc pas mieux que nous. Seule, la machine ne l’emporte pas sur nous. La machine qui sait qui vous êtes, si.
Prenez maintenant un système porteur de biais humains, et donnez-lui cet avantage à grande échelle, de quoi convaincre des millions de gens que ces biais sont des faits. Un cauchemar pour quiconque n’est pas derrière l’algorithme.
Face à ces limites, la solution doit aller au-delà de la technologie, jusqu’à la racine du problème, c’est-à-dire l’intégrité humaine.
Et si l’on inventait, dans la société, un rôle pour les gens dotés d’une boussole morale incorruptible ? Appelons-les les « gardiens de la vertu », des personnes dont l’intégrité résiste à l’argent, au pouvoir et à l’influence. Leur travail consisterait à surveiller les décisions des industries et des organisations qui comptent le plus, et à vérifier que les grands choix servent le bien commun.
Gardiens de la vertu : un nouveau type de leadership
L’idée a des airs désuets, un parfum de ces temps où les chevaliers prêtaient serment de défendre les faibles et de faire respecter la justice. Il nous faut peut-être une version moderne de ces chevaliers. On les choisirait à rebours des critères habituels. La fortune, le statut et le carnet d’adresses ne compteraient pour rien, l’intégrité morale pour tout. Des gens dont le parcours atteste l’honnêteté et l’équité, et qui font ce qui est juste quelles que soient les pressions.
Les gardiens surveilleraient les décisions dans des domaines à fort enjeu, comme la protection de l’environnement, le développement d’armements ou les politiques sociales, où une décision égoïste peut faire des ravages. Ils y joueraient le rôle de verrou. Chaque décision importante serait jugée à ce qu’elle fait pour l’humanité entière, et non à ce qu’elle rapporte à quelques-uns.
Ils ne détiendraient pas de pouvoir absolu. Voyez-les plutôt comme un point de contrôle moral. Ils ne remplaceraient ni les PDG, ni les responsables politiques, ni les régulateurs, mais ils auraient l’autorité de remettre en question une décision qui menace le bien collectif et, si nécessaire, de la bloquer. Chacune de leurs positions s’accompagnerait d’une explication claire et détaillée, publiée pour que n’importe qui puisse la vérifier.
Le concept paraît radical, mais il a des précédents. Les lanceurs d’alerte ont montré que certaines personnes sont encore prêtes à tout risquer pour défendre des valeurs morales.
Edward Snowden est souvent cité en exemple. En révélant les abus de pouvoir de l’État, il a fait preuve d’un attachement profond à la transparence et à la reddition de comptes, et il l’a payé au prix fort. Il reste aussi profondément clivant. Les uns voient en lui un héros qui a défendu les libertés civiles, les autres un traître qui a compromis la sécurité nationale.
Ce désaccord montre à lui seul combien les choix éthiques sont difficiles. L’intégrité n’est pas toujours reconnue ni célébrée. Nous avons pourtant besoin de gens qui font passer l’intérêt public avant tout, même quand cela leur coûte très cher, qui savent démêler un dilemme moral difficile et, quand il le faut, tenir tête aux puissants.
Imaginez maintenant qu’on donne à ces gens les outils et l’autorité pour défendre les intérêts de l’humanité là où se prennent les plus grandes décisions. Les gardiens vivraient selon les valeurs auxquelles, en tant que société, nous disons tenir : l’honnêteté, la justice et la protection des générations futures.
Pourquoi l’IA seule ne peut pas nous sauver
À mesure que l’IA progressait, beaucoup ont cru qu’elle pourrait régler la corruption et l’intérêt personnel qui pèsent sur nos décisions. Le raisonnement était simple. Un système qui ne se fatigue jamais, ne convoite jamais le pouvoir et ne cède jamais à la cupidité ferait un arbitre idéal pour les grandes décisions. L’IA telle qu’elle existe en est très loin.
Pour l’instant, les systèmes d’IA sont notre reflet. Ils sont entraînés sur des données tirées de notre monde, et ces données portent nos biais, nos préjugés et nos erreurs. Ces systèmes reproduisent donc souvent ces biais, et vont jusqu’à les renforcer. On a vu des IA se comporter de façon discriminatoire, non parce qu’elles l’avaient « choisi », mais parce qu’elles avaient appris à partir de données biaisées.
Il y a aussi l’influence des multinationales, dont le pouvoir sur notre avenir est immense. Elles font souvent passer le profit avant l’éthique, et leurs décisions peuvent affecter la société en profondeur. L’IA peut se montrer très persuasive, alors il faut se demander qui se tient derrière le rideau. Quelles visées d’entreprise se glissent dans les recommandations de l’IA ? Si nous laissons la technologie fixer notre cap sans contrôle éthique, nous risquons un avenir mené par l’intérêt personnel.
La boucle qui se referme sur elle-même
- Le dirigeant d’une grande entreprise d’IA rassemble des données biaisées.
- Ces données servent à entraîner une IA.
- L’IA fonctionne sous l’influence de ces biais.
- Ses recommandations orientent les décideurs.
- Les décideurs agissent selon ces recommandations.
- Leurs actions renforcent les biais qui ont façonné l’IA.
- L’IA continue d’apprendre des décisions prises sur ses propres conseils, et la boucle se referme. Chaque cycle amplifie les biais et éloigne un peu plus la société du jugement éthique.
C’est ici qu’interviennent les gardiens. L’IA peut traiter d’énormes volumes d’informations, mais elle n’a pas de boussole morale. Les décisions qui engagent l’avenir de notre société demandent que des personnes aux convictions éthiques fermes tranchent en dernier ressort. Les gardiens travailleraient aux côtés de l’IA et y ajouteraient un jugement humain, guidé par des valeurs plutôt que par des algorithmes.
L’IA peut assister. Elle ne peut pas remplacer le discernement moral, qui n’appartient qu’aux humains. Les gardiens feraient en sorte que l’IA reste un outil au service du bien, et l’empêcheraient d’amplifier le pire de la nature humaine.
Le besoin de changement : bâtir un nouveau cadre
Nos systèmes actuels ont laissé s’installer la corruption et l’intérêt personnel. Il nous faut un nouveau cadre.
Tout commencerait par le choix soigneux de personnes qui s’imposent les exigences éthiques les plus élevées. La vérification serait aussi rigoureuse que pour les hautes fonctions de l’État ou des grandes entreprises, avec l’intégrité morale comme premier critère. Les candidats devraient prouver leur attachement aux principes éthiques, et montrer qu’ils sauraient affronter les dilemmes moraux difficiles que la fonction leur réserverait.
Il leur faudrait aussi les outils du métier : un accès ouvert à l’information, une tribune pour signaler leurs inquiétudes, et l’autorité de contester les décisions susceptibles de nuire. Une partie du rôle consisterait à installer une culture de l’intégrité dans les organisations qu’ils surveillent, pour que d’autres placent à leur tour l’éthique au premier plan de leur travail.
J’entends déjà l’objection évidente. Un groupe non élu doté d’une autorité morale ressemble furieusement aux modèles de gouvernance contre lesquels nous nous mettons mutuellement en garde, une élite choisie qui décide de ce qui est bon pour tout le monde. L’histoire est pleine de gens qui ont concentré le pouvoir au nom de la vertu, et cela a rarement bien fini. L’objection est légitime, et la réponse doit faire partie du cadre lui-même, pas être reléguée en note de bas de page.
C’est pourquoi les gardiens ne pourraient jamais détenir un pouvoir sans contrepoids. Leur rôle est un point de contrôle moral, pas un trône. Ils seraient tenus aux exigences qu’ils font respecter, avec un examen public régulier, une supervision par des instances indépendantes et une justification claire et documentée de chacun de leurs actes. Leurs décisions resteraient contestables. Il s’agit de renforcer les processus démocratiques, pas de les remplacer, en ajoutant de l’intégrité morale aux décisions lourdes de conséquences.
Un gardien qui se met à gouverner au lieu de garder a déjà trahi sa fiche de poste.
Enfin, les gardiens auraient besoin du soutien du public. Une société qui valorise le leadership moral peut déplacer ses normes vers la responsabilité et la transparence. Il faudrait célébrer celles et ceux qui se dressent contre la corruption et plaident pour le bien commun, comme nous honorons aujourd’hui les lanceurs d’alerte.
Un appel à la réflexion collective
De meilleurs systèmes ne sont que la moitié de la réponse. L’autre moitié, c’est d’être à la hauteur des valeurs que nous prétendons défendre. Les gardiens ne sont pas une façon de confier notre sort à une poignée de personnes triées sur le volet. L’idée, derrière eux, c’est que chaque étage de la société a besoin d’un leadership éthique.
Comment garantir que les décisions qui façonnent notre avenir reposent sur l’intégrité et la transparence ? Comment, en tant qu’individus et en tant que communautés, bâtir une culture qui place le bien commun au-dessus de l’intérêt personnel ? Ce sont des questions pratiques, pas seulement un exercice philosophique.
Les réponses ne seront pas forcément simples, mais la conversation doit commencer maintenant. Il est peut-être temps de repenser qui dirige, et ce que nous entendons au juste par leadership.
