Chaque action a une réaction. Ainsi, les outils d'IA générative sont compensés par des détecteurs d'IA qui aident à distinguer l'écriture humaine du contenu généré par l'IA.
Les outils d’IA ont imprégné toutes les sphères de la vie humaine, depuis les applications permettant d’effectuer des tâches répétitives jusqu’aux solutions complexes pour les tâches créatives. L’intelligence artificielle devient incroyablement humaine, ce qui rend de plus en plus difficile la détection du contenu généré par l’IA. Et les détecteurs d’IA servent de « première ligne de défense » lorsqu’il s’agit de distinguer le premier du second. Bien que cet article concerne principalement le texte, les détecteurs de contenu IA peuvent également fonctionner avec des images, des vidéos et même du son, ce qui est crucial pour la protection contre les deepfakes et autres escroqueries.
Dans ce document, nous vous présenterons le concept de détection de l'IA, fournirons des exemples de son application et expliquerons les bases du fonctionnement des détecteurs d'IA. Vous apprendrez également pourquoi des faux positifs ou des faux négatifs peuvent se produire et comment contourner les algorithmes (et si cela en vaut la peine).
Table des matières
- Introduction à la détection par l'IA
- Fonctionnement des détecteurs de texte
- Fonctionnement des détecteurs d'images
- Fonctionnement des détecteurs de vidéos et de deepfakes
- Les détecteurs d'IA sont-ils fiables ?
- Applications et utilisations
- Détecteurs d'IA et vérificateurs de plagiat
- Détection manuelle ou algorithmique
- Bonnes pratiques et avenir de la détection par l'IA
- Questions fréquemment posées
- Conclusion
Introduction à la détection IA
Imaginons une situation très typique :vous tombez sur une notion ou un fait, essayez de l'enquêter, et recherchez-le sur Google, trouvant quelques articles. Mais comment savoir s’ils ont été rédigés par un expert humain ou générés par un outil d’IA qui a rassemblé des informations provenant de toutes les sources disponibles, quelle que soit leur fiabilité ? Ce n'est pas le cas.
Ou vous voyez une belle photo et vous vous intéressez à qui est le modèle, pour ensuite apprendre qu'elle n'existe pas car l'image a également été créée par une intelligence artificielle.
La vérité est qu’aujourd’hui, vous ne pouvez jamais être sûr à 100 % qui est le véritable auteur du contenu ni si vous pouvez lui faire confiance. Même si parfois cela n'a pas vraiment d'importance – peu importe qu'une illustration soit générée par l'IA si elle remplit son objectif – il serait décevant de découvrir que le poème perspicace et stimulant que vous venez de lire a été écrit par un programme sans âme.
C'est pourquoi les détecteurs IA gagnent en popularité non seulement pour vérifier les textes mais aussi pour le contenu visuel. Les progrès sont irréversibles et irrépressibles, mais l'utilisation responsable de l'IA est la clé, et les détecteurs sont censés nous y aider.
Comment fonctionnent les détecteurs de texte
Comment fonctionnent les détecteurs IA ? Ils analysent le contenu écrit en utilisant plusieurs paramètres. L'apprentissage automatique et le traitement du langage naturel permettent aux programmes de « scanner » le texte et d'évaluer les aspects suivants.
Perplexité
En termes simples, ce terme signifie à quel point le texte est prévisible et insipide. Par exemple, si la phrase commence par « J'aime mon café », nous nous attendons à ce qu'elle se termine par quelque chose comme « chaud, fort et noir, et non par « même si j'aime plus mon oreiller ». Même si la deuxième option est grammaticalement correcte, elle n'a aucun sens (du moins sans contexte étendu). Les gens ont tendance à faire des choix linguistiques plus créatifs, tandis que le contenu généré par l'IA est généralement plus simple.
Éclatement
Autrement dit, c'est la cohérence du texte. L’écriture humaine peut et parfois même devrait être incohérente :certaines phrases sont longues et complexes, tandis que d’autres sont courtes et simples. Les gens peuvent utiliser des modèles de grammaire avancés dans une partie et une structure de phrase très basique dans une autre. Le texte généré par l'IA suit généralement un modèle choisi (sauf indication contraire).
La perplexité et l'instabilité sont des indicateurs linguistiques clés, mais pas les seuls.
Filigrane
Oui, c'est exactement à cela que cela ressemble :intégrer certaines « marques » (combinaisons de mots et de lettres) dans le texte qui semblent naturelles mais que les détecteurs de contenu IA reconnaissent.
Vecteurs
Également appelés intégrations, les vecteurs sont des représentations numériques de mots « humains ». Même si les mots sont des homonymes complets, comme « vent » (nom) et « vent » (verbe), leurs vecteurs seront différents. Cette technique aide les détecteurs d'IA à mieux reconnaître le contenu généré par l'IA.
Détection manuelle
Si vous êtes un enseignant qui révise le devoir d'un élève, vous pouvez repérer un choix de mots inhabituel, un vocabulaire trop avancé et d'autres signes de texte généré par l'IA. Si vous traitez un écrit anonyme, par exemple sur Internet, le texte écrit par un humain est plus susceptible d'avoir une touche personnelle, des blagues (même pas très drôles) et un ton informel.
Rédiger une analyse historique peut également s'avérer utile :si l'une des modifications contient de gros morceaux de texte, cela semble suspect (ou l'auteur vient de les copier à partir d'un autre document).
Exemples de détecteurs de texte générés par l'IA :
- Robot Quill
- Scribbr
- Jeune arbre
- IA Winston
- Proofademic
- Écrivain furtif
Comment fonctionnent les détecteurs d'images
Il n'y a pas si longtemps, les images générées par l'IA étaient faciles à détecter en raison de nombreuses « hallucinations » :mauvais nombre de doigts, parfois même de bras et de jambes, postures non naturelles, etc. Nous avons même comparé plusieurs outils d'IA générative gratuits il y a un an, et presque tous partageaient les mêmes problèmes.
L'analyse numérique du bruit est toujours utile, mais elle est moins fiable qu'avant, car les générateurs d'IA continuent d'évoluer. L'une des dernières frontières, cependant, concerne le texte intégré que l'IA a du mal à reproduire avec précision.
Dernier point mais non le moindre :les empreintes digitales neuronales. Les détecteurs d'images et de vidéos comparent les structures de pixels aux données d'entraînement connues provenant de générateurs d'images d'IA comme Midjourney ou DALL-E.
Exemples de détecteurs d'images générés par l'IA :
- Modération de la ruche
- Sensity IA
- Illumination
- ÉtaitAI
- IA ou pas
Comment fonctionnent les détecteurs de vidéos et de deepfakes
Les deepfakes deviennent plus intelligents :ils peuvent imiter de vraies personnalités publiques, diffuser de fausses nouvelles et semer la panique. Cette technique est également utilisée pour violer la sécurité et obtenir des données sensibles auprès de particuliers et d'entreprises.
Comment fonctionnent les détecteurs IA dans ce cas ? Ils recherchent les occurrences suivantes :
- Incohérences telles que des scintillements, des mouvements corporels non naturels ou des ombres changeantes.
- Expressions faciales et signaux physiologiques, comme des clignements étranges.
- Son asynchrone et mouvements des lèvres.
- Filigranes et métadonnées masquées laissées par les outils d'IA générative dans leurs résultats.
Exemples de détecteurs IA :
- Détecteur vidéo IA
- Sensity IA
- IA DeepBrain
- DeepfakeDetector
- Détecteur de deepfake
Les détecteurs d'IA sont-ils fiables ?
Non, ce n’est pas le cas. Ils peuvent produire des faux positifs et signaler le contenu écrit par l’homme comme généré par l’IA. Cela peut être dû à plusieurs raisons.
Premièrement, les anglophones non natifs peuvent utiliser une grammaire simple et un choix de mots contre-intuitif. Ensuite, certains types d’écriture, comme la documentation et les manuels, ne sont pas très polyvalents ou artistiques. Enfin, la longueur des phrases est également importante :les phrases courtes sont plus susceptibles d'être détectées comme étant écrites par l'IA.
Les faux négatifs sont également assez courants. Les résultats de l'IA, lorsqu'ils sont édités par un écrivain humain, peuvent « réussir le test ». Ainsi qu'un contenu amélioré par une application-humanizer.
Par exemple, cet article a été écrit par un être très humain, je le jure. La dernière fois que j'ai passé un examen médical, il n'a révélé aucune partie du cyborg. Mais le verdict de Stealthwriter.ai était que 65 % de mon texte était constitué d'IA. D'un autre côté, detector-ai.com s'est montré plus clément en ne considérant que 26,9 % de mes écrits comme étant générés par l'IA, et sapling.ai s'est également montré moins sévère en qualifiant seulement 34,2 % de faux.
C’est en fait tout ce que vous devez savoir sur la fiabilité des détecteurs IA et leur capacité à reconnaître l’écriture humaine. Dans mon cas, je suppose que le résultat a été fortement influencé par les guillemets et un correcteur orthographique (coupable, Votre Honneur !).
Applications et utilisations
Le contenu généré par l’IA pourrait ouvrir de nouveaux horizons à la créativité humaine, mais seulement s’il est pratiqué avec conscience.
Abhijit Naskar, neuroscientifique et écrivain
La détection par l’IA n’est pas seulement utile lorsque vous voulez être sûr qu’un article aléatoire sur Internet a été écrit par un humain. Voici une courte liste, en aucun cas exhaustive, des applications possibles pour les détecteurs IA.
- Le monde universitaire. Les étudiants sournois adorent rédiger leurs devoirs avec l'aide de l'IA.
- Science. Les articles scientifiques doivent être créés par de vrais experts.
- Édition et journalisme. Les générateurs de texte IA manquent d'intégrité, d'intensité émotionnelle et d'âme.
- Réseaux sociaux. Les plateformes exigent de plus en plus l’étiquetage de l’IA pour maintenir la transparence. De plus, les abonnés en ont assez des contenus superficiels et identiques. Le texte écrit par des humains peut donc devenir votre avantage dans cette compétition.
En résumé, la détection de l'IA est applicable dans divers domaines, depuis le privé (pour vérifier la fiabilité d'une source d'information) jusqu'aux besoins commerciaux et éducatifs.
Détecteurs d'IA et vérificateurs de plagiat
Les vérificateurs de plagiat sont apparus bien avant les détecteurs d’IA. Jusqu’à présent, ils sont utilisés depuis une bonne douzaine d’années, voire plus. Les deux aident beaucoup, mais ils servent des objectifs différents.
Outils de détection d'IA il suffit de détecter la paternité, qu'il s'agisse d'une écriture humaine ou IA. Le contenu lui-même pourrait bien être unique et authentique.
Vérificateurs de plagiat vérifiez si le contenu est original, ou s'il est compilé ou « emprunté » à d'autres sources, à l'aide de l'approche scientifique populaire du « copier-coller ».
Les deux outils fonctionnent mieux en combinaison :vous obtenez ainsi une évaluation en texte intégral.
Détection manuelle ou algorithmique
La détection manuelle de l’écriture de l’IA repose sur l’expérience et les connaissances personnelles de l’écrivain. Par exemple, un enseignant ou un tuteur qui connaît le style de ses élèves peut facilement détecter les incohérences et les bizarreries dans le devoir d'une personne, tandis qu'un détecteur d'IA peut s'avérer inefficace, car les détecteurs de base du traitement du langage naturel (NLP) peuvent être contournés par les humaniseurs d'IA.
En revanche, dans des cas plus génériques, lorsqu’il s’agit d’un texte aléatoire provenant d’une source inconnue, les détecteurs IA fonctionnent plus efficacement. Dans l'ensemble, une approche hybride pourrait donner les meilleurs résultats.
Bonnes pratiques et avenir de la détection par l'IA
Voici une courte liste de nos trucs et astuces pour vous aider à ne pas vous perdre dans l’abondance des outils d’IA et leur polyvalence. Comme il s'agit d'un segment relativement nouveau d'utilisation de l'IA (c'est ironique ! Les outils d'IA aident à détecter le contenu généré par l'IA), vous devez être particulièrement prudent.
- Utilisez plusieurs outils de détection d'IA, y compris l'examen humain, pour obtenir le résultat le plus fiable.
- N'oubliez pas de mettre à jour vos détecteurs de contenu, car ils continuent d'évoluer (ainsi que les outils d'écriture d'IA).
- "Tout le monde ment". Gardez à l’esprit que les faux positifs ne sont pas rares; ne vous précipitez pas pour accuser un auteur sur la base des résultats d'un détecteur.
Et surtout, même si les contenus sont reconnus comme générés par l’IA, ce n’est pas la fin du monde. Il existe de nombreuses situations où cela est tout à fait acceptable, en particulier si le texte a été édité et révisé manuellement.
Lorsqu’une œuvre d’art est inventée par une machine, elle perd son pouvoir le plus important :aider les gens à se connecter.
Eric Reinhart, anthropologue politique, psychiatre et psychanalyste
Dans le futur, le domaine évoluera sans aucun doute. Les outils deviendront plus précis et plus fiables, et des réglementations et restrictions légales pourraient également apparaître. Nous prévoyons quelques changements possibles :
- Identifiants de contenu (C2PA) :les métadonnées basées sur la blockchain prouveront la paternité humaine.
- Les filigranes d'écriture invisibles de l'IA deviendront une fonctionnalité par défaut.
- Les détecteurs fonctionnent avec plusieurs types de contenu au lieu d'un seul (texte, son, vidéo ou image).
- Les domaines et ressources publics exigeront un étiquetage du contenu IA (ou vice versa, une marque "écriture humaine").
Rencontrons-nous ici dans un an et voyons si nous avions raison ou non :)
Questions fréquemment posées
Qu'est-ce qu'un détecteur IA et comment fonctionne-t-il ?
Les détecteurs d'IA sont des applications, des sites ou des logiciels qui déterminent si le contenu a été généré par un écrivain humain ou par une intelligence artificielle. Ces outils analysent la longueur et la structure des phrases, recherchent des métadonnées et des filigranes cachés et utilisent d'autres techniques.
Les détecteurs d'IA peuvent-ils détecter les vidéos avancées générées par l'IA telles que Sora ou Kling ?
Partiellement. Ils peuvent parfois détecter les deepfakes, mais les modèles d'IA avancés peuvent contourner les détecteurs de manière assez efficace.
Les humaniseurs d'IA contournent-ils efficacement la détection ?
Oui, mais ils peuvent rendre le texte « contre nature » et bizarre.
Est-il légal et éthique d'utiliser des détecteurs d'IA sur les lieux de travail et dans l'enseignement ?
Cela dépend fortement des politiques du lieu de travail et de l'organisme éducatif, car il n'existe pas encore de lois et de réglementations officielles.
Quelle est la précision des détecteurs IA ?
Ils ne sont pas encore précis. Les faux positifs peuvent "révéler" un pourcentage élevé de contenu d'IA, même si le texte a été écrit manuellement et révisé pour les fautes de grammaire ou d'orthographe à l'aide d'un outil (ou même sans raison particulière).
Éditeur vidéo en ligne
Créez des vidéos directement dans votre navigateur. Combinez des vidéos avec des images, ajoutez de la musique, du texte, des autocollants, des GIF et des voix off IA.
Conclusion
Comme vous pouvez le constater, les détecteurs IA peuvent être utiles, mais ils ne sont pas fiables. Gardez à l’esprit que des faux positifs et des faux négatifs sont possibles, surtout si le contenu a été modifié à l’aide d’un humaniseur ou d’un correcteur orthographique.