Écris tes propres mots

Depuis qu'OpenAI a lancé ChatGPT, je travaille activement avec cette nouvelle technologie pour comprendre ce qu'elle sait faire. J'ai programmé avec l'IA, j'ai appris avec l'IA et j'ai appris à des gens à travailler avec l'IA. Je suis retourné à l'université pour rafraîchir mes connaissances sur les technologies qui sous-tendent l'IA. J'ai écrit un article de blog très réaliste avec l'IA. Mais surtout, j'ai réfléchi à l'impact de l'IA sur notre société.

C'est un outil puissant, capable de choses étonnantes comme détecter un cancer sur des images IRM ou structurer et documenter du code informatique pour le réutiliser. Tout le monde peut utiliser l'IA, et c'est là que se cache un problème potentiel, en particulier pour la création de contenu.

Typiquement humain

Si nous utilisons tous les mêmes outils pour générer du contenu, tout finira par se ressembler. Nous risquons de perdre la diversité. Surtout que les nouveaux modèles sont entraînés sur du contenu lui-même généré. C'est une boucle récursive qui rend le nouveau contenu de plus en plus semblable à l'existant.

On voit déjà ce problème dans les résultats de recherche de Google. Les gens ont remarqué que les résultats se dégradent. On l'attribue souvent à la quantité croissante de contenu optimisé pour les moteurs de recherche mais de mauvaise qualité. Je te conseille de lire cette étude de Bevendorff Et Al sur l'évolution à long terme du spam SEO dans les moteurs de recherche. Le contenu de mauvaise qualité mais bien présenté repousse le contenu réellement précieux.

Que faire ? Les gens qui fabriquent les modèles trouveront sûrement des filtres intelligents pour exclure le matériel de mauvaise qualité de l'entraînement. Je m'attends à ce que le contenu qui n'est pas généré par l'IA prenne de la valeur. Comme l'ancien acier à faible bruit de fond, apprécié parce qu'il n'est pas contaminé par les traces de retombées nucléaires présentes dans l'acier moderne.

Détecter le contenu généré par l'IA

Est-ce l'IA qui a écrit ça ? En quoi ChatGPT écrit-il différemment des humains ? Des chercheurs de Preply ont cherché des indices pour repérer les textes écrits par l'IA afin de déterminer l'origine de dissertations d'étudiants. Ils ont analysé 12 000 dissertations et dressé le relevé des mots, des tournures et des erreurs les plus fréquents, aussi bien dans les textes humains que dans ceux produits par ordinateur. Voici leurs principaux enseignements :

• Les textes écrits par des humains contenaient bien plus souvent des fautes : 78 % des textes comptaient au moins une erreur, contre seulement 13 % des dissertations de l'IA
• Les erreurs de ponctuation les plus courantes dans les textes humains étaient les virgules manquantes, les erreurs de trait d'union et les espaces manquantes
• ChatGPT utilise 35 % de vocabulaire unique en moins que les humains, avec seulement 7 308 mots uniques au total, contre 11 248 mots uniques dans les textes écrits par des humains
• Les humains utilisent plus volontiers des noms et des verbes courants comme « un » ou « les gens », alors que ChatGPT préfère des termes complexes et spécialisés comme « culturel » ou « économique ».

De l'art plutôt que de l'artificiel

Si le contenu compte pour toi, vois-le comme de l'art : il peut avoir une qualité humaine qui détermine son sens pour les autres humains. Dans une comparaison détaillée, Gold Penguin compare l'art créé par des humains et l'art généré par l'IA. Voici leurs principales conclusions pour repérer le contenu créé par l'IA :

• Abus de motifs : les machines ne gèrent pas bien l'entropie ni les données aléatoires, et les générateurs d'IA ont donc tendance à répéter certains motifs très présents dans d'autres images
• Complexité : l'IA a du mal à reproduire les éléments uniques ou inhabituels avec lesquels les artistes humains aiment expérimenter.
• Manque d'émotion : même si elle peut parfois être plus belle visuellement, l'art de l'IA n'a pas la profondeur émotionnelle et conceptuelle de l'art humain.
• Erreurs : tu as déjà vu une œuvre dont tu sais qu'elle est fausse sans pouvoir dire pourquoi ? C'est la vallée de l'étrange. Elle se manifeste généralement dans de petits détails plutôt que sous ton nez. Six doigts, pupilles qui coulent, objets mal tenus : la liste est longue.

Je comprends bien que tous les textes ne se valent pas et que certains ne méritent pas d'être élevés au rang d'œuvre d'art. Il y a de très bons cas d'usage pour les générateurs d'IA, dont les traductions ou les résumés. Je ne suis pas contre les grands modèles de langage en général, je dis seulement qu'il faut les voir comme un outil, avec ses avantages et ses inconvénients.

Conclusion

Plus un outil est puissant, plus il peut faire de dégâts : c'est à celui qui le manie de bien s'en servir. Les grands modèles de langage sont puissants pour générer des textes à l'air convaincant, mais leur valeur dépend en fin de compte du sens que les humains y attachent. Si l'on en juge par les musées remplis d'œuvres d'art, je m'attends à ce que les choses faites à la main soient toujours appréciées. Commençons simplement par nous soucier un peu plus de ce que nous créons, par exemple en écrivant nos propres mots.