L'écrivain canado-haïtien Thélyson Orélien a récemment été accusé d'avoir utilisé l'intelligence artificielle pour écrire son roman "C'était ça ou mourir". Les accusations, portées sur le réseau social X, s'appuyaient sur un logiciel de détection de l'IA. Cette affaire soulève des questions sur la fiabilité de ces outils de détection, qui sont de plus en plus utilisés dans le secteur de l'enseignement et de la recherche académique.
Les détecteurs de textes générés par IA fonctionnent en analysant des bases de données regroupant des textes générés par des modèles d'IA et des textes rédigés par des humains. Les entreprises qui développent ces outils utilisent des méthodes différentes pour paramétrer leurs systèmes de détection. Selon Thierry Poibeau, directeur de recherche au CNRS, ces systèmes recherchent des régularités dans les textes pour déterminer s'ils ont été écrits par une IA.
Les outils de détection de l'IA, tels que ceux développés par Pangram et WinstonAI, mettent en avant des scores de fiabilité supérieurs à 99% dans la détection des textes générés par IA. Cependant, ces résultats ne suffisent pas à affirmer de manière certaine qu'un texte est rédigé par une IA. Les entreprises elles-mêmes soulignent que leurs outils ne devraient pas être utilisés comme preuve définitive.
Les modèles d'IA évoluent en permanence et tentent de se rapprocher toujours plus du langage naturel, ce qui rend la détection de plus en plus difficile. Selon Thierry Poibeau, les détecteurs de l'IA se heurtent à un "problème de cible mouvante". De plus, les outils de détection peuvent relever des caractéristiques qui sont en fait des éléments de style propres à un écrivain.
L'affaire Thélyson Orélien met en lumière les limites de ces outils de détection. Le PDG et cofondateur de Pangram, Max Spero, a souligné que son outil ne devrait "jamais être l'arbitre final" mais plutôt un point de départ pour une enquête plus approfondie. Les experts et les entreprises s'accordent sur le fait que ces outils doivent être utilisés avec prudence et dans un contexte plus large.
Les détecteurs de textes générés par IA sont utilisés dans divers secteurs, notamment l'enseignement et la recherche académique. Certains outils, comme ceux de Pangram, proposent également des services pour "humaniser" des textes écrits par une IA. Cependant, la question de la fiabilité de ces outils reste posée.
En conclusion, les détecteurs de textes générés par IA ne sont pas encore fiables à 100%. Les experts et les entreprises soulignent la nécessité d'utiliser ces outils avec prudence et dans un contexte plus large. Les modèles d'IA évoluant en permanence, il est important de poursuivre la recherche et le développement de ces outils pour améliorer leur efficacité.
Key points
- Les détecteurs de textes générés par IA ne sont pas encore fiables à 100%.
- Les modèles d'IA évoluent en permanence, ce qui rend la détection de plus en plus difficile.
- Les outils de détection doivent être utilisés avec prudence et dans un contexte plus large.
