- within Employment and HR topic(s)
- with readers working within the Oil & Gas industries
Depuis fin 2022, les débats autour des dérives de l’intelligence artificielle se sont concentrés sur des risques assez visibles et parfaitement légitimes : les deepfakes, la désinformation automatisée ou encore les “hallucinations” des modèles, capables de produire des informations fausses avec une assurance certaine.
Cependant, la technologie n’a pas fini de nous surprendre car les aspects controversés de l’IA ne se limitent plus seulement à produire des contenus potentiellement trompeurs, mais maintenant à devenir un outil de pression sur les institutions et sur les médias, avec des effets possibles sur la manière dont la vérité publique est construite. Rien que cela.
En effet, la startup Objection.ai, associée à des figures comme Peter Thiel a pour ambition de proposer un outil d’assistance à l’écriture, mais de créer un système capable de remettre en question et de “juger” des contenus journalistiques de manière rapide et industrialisée.
Un système d’arbitrage automatisé des articles
Le fonctionnement prêté à Objection.ai s’apparente à une forme « d’arbitrage privé accéléré ». Toute personne, qu’il s’agisse d’un particulier, d’une entreprise ou d’une personne publique, pourrait contester un article de presse ou plutôt des faits allégués dans un article de presse en échange de frais d’entrée (2000$/fait, il semblerait). Une fois le dossier initié, une enquête serait menée par des contractuels (apparemment des anciens de la CIA et du FBI), chargés de rassembler des éléments pour ou contre le contenu en question. Le journaliste concerné serait alors invité à répondre et à fournir ses sources.
Les éléments recueillis seraient ensuite analysés par un système combinant plusieurs modèles d’intelligence artificielle (IA), aboutissant à une forme de verdict synthétique : vrai, faux ou insuffisamment prouvé. Ce résultat serait ensuite rendu public.
Cerise sur le gâteau, dans ce scénario, un score de crédibilité pourrait également être attribué aux journalistes, évoluant en fonction de leurs pratiques : usage de sources anonymes, ton jugé trop subjectif ou titres perçus comme orientés, coopération du journaliste pendant l’enquête.
Des enjeux démocratiques importants
Un tel système soulève immédiatement des questions sur le rôle de la vérification de l’information et sur son indépendance.
| Problématique | Description |
| Secret des sources | Le journalisme d’investigation repose largement sur des informateurs anonymes, souvent essentiels pour révéler des faits d’intérêt public. Un mécanisme qui pénaliserait systématiquement l’usage de sources non identifiées pourrait fragiliser ce type de travail. |
| Risques de pression | Dans sa logique, un système payant et rapide pourrait permettre à des acteurs disposant de moyens financiers d’engager des contestations répétées contre des articles/faits gênants, créant un effet dissuasif sur certaines enquêtes. |
| Autocensure | Les journalistes pourraient, par peur ou appréhension de l’outil, ne pas aborder certains sujets ou ne pas mentionner certaines personnes dans leurs articles. |
| Privatisation de la validation de l’information | Contrairement à un cadre judiciaire classique, un tel dispositif ne reposerait pas sur des garanties institutionnelles comme l’indépendance des juges, le droit d’appel ou des procédures encadrées par la loi. La production de “vérité” deviendrait alors le résultat d’un système technique opéré par une entité privée dont les rouages resteraient parfaitement opaques. |
Qu’en dit l’IA Act ?
Le règlement européen sur l’intelligence artificielle1 (IA Act), établit une classification des systèmes d’IA selon leur niveau de risque. À ce titre, un système comme Objection.ai présente plusieurs caractéristiques susceptibles de le faire qualifier de système d’IA à haut risque ou de système interdit, même si étonnamment la qualification la plus probable reste celle d’IA à risque limité.
| Qualification | Description |
| Pratique interdite | Le fameux score de crédibilité (« credibility score ») qu’Objection.ai attribue publiquement aux journalistes flirte avec une ligne rouge absolue de l’IA Act : l’interdiction de la notation sociale (social scoring)2.
L’IA Act interdit de classifier des personnes physiques sur la durée en fonction de leur comportement pour leur infliger un traitement défavorable dans des contextes déconnectés. Toutefois, cette interdiction viserait surtout le contrôle de masse des citoyens par les États ou les monopoles. Un score de nature « professionnelle » comme celui d’Objection.ai échapperait probablement à l’interdiction pure et simple, mais placerait certainement la startup dans le viseur du régulateur. |
| IA à haut risque | L’IA Act3 les systèmes à haut risque ceux utilisés pour « influencer le résultat d’une élection ou d’un référendum ou le comportement électoral de personnes physiques dans l’exercice de leur vote lors d’élections ou de référendums ».
Ce qui pourrait être parfaitement le cas en France et on a vu à quel point les affaires judiciaires et les révélations journalistiques ont déjà pu influer sur une élection. Cette qualification est néanmoins circonscrite à un contexte particulier (élection/référendum) et des personnes particulières… |
| A risque limité | La startup se heurte à des obligations de transparence4 imposées par l’IA Act. Ce dernier prévoit une règle très claire pour les contenus d’intérêt public :
« Les déployeurs d’un système d’IA qui génère ou manipule des textes publiés dans le but d’informer le public sur des questions d’intérêt public indiquent que le texte a été généré ou manipulé par une IA. » Comme Objection.ai publie des analyses et des « jugements » (avis) sur des enquêtes de presse (par définition d’intérêt public), elle aurait l’obligation immédiate d’afficher de manière ultra-visible que ses conclusions sont produites par un algorithme. Mais en même temps, il n’y a pas tromperie sur la marchandise, c’est affiché dès le départ. |
Enfin, si la plateforme ou son site officiel s’avérait difficilement accessible, à date, avec le message cryptique « Due to feedback we’re rebuilding for an epistemic and primary sourced future.Stay tuned for updates5 », il conviendrait de rester prudent quant à son déploiement réel.
Dans ce type de projet, souvent entouré de communication anticipée ou d’annonces partielles, il est essentiel de distinguer ce qui relève d’une expérimentation, d’un prototype ou d’une simple intention de ce qui est effectivement opérationnel lors d’un lancement public. Affaire à suivre…
Footnotes
1 Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence
2 IA Act, Article 5, paragraphe 1, c
3 IA Act, Annexe III
4 IA Act, Article 50
5 À la suite des retours que nous avons reçus, nous nous réorganisons pour nous tourner vers un avenir fondé sur la connaissance et les sources fiables. Restez à l’écoute pour les mises à jour.
The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.
[View Source]