A moins d’avoir d’avoir vécu en zone blanche pendant ces 2 derniers mois, il ne t’a pas échappé qu’une IA dénommée chatGPT fait le buzz en ce moment. chatGPT est un agent conversationnel, un chatbot dit plus vulgairement avec qui on peut dialoguer sans vraiment penser qu’on parle à une machine. Il est capable de répondre à tout type de questions mais aussi de générer du texte : écrire des articles, faire des résumés de texte et même rédiger du code à partir des consignes que tu lui auras passées. Succès immédiat ! 1 million de personnes se sont inscrits en 1 semaine pour tester le service.
Pourquoi un tel succès ?
De prime abord, le succès est surtout dû à la capacité de faire croire que l’on converse avec une vraie personne érudite dont les réponses sont sensées. C’est très surprenant car on a pas l’habitude d’un tel niveau de finesse venant de la part d’un chatbot. Avant chatGPT, les conversations ressemblaient plutôt à ça :
Mais rien à voir avec chatGPT, les échanges sont fluides et cohérents. Sur les réseaux sociaux, tous les jours sont postés les captures d’écran d’internautes fascinés devant la pertinence et la rapidité des réponses de ce chatbot qui imite parfaitement le type de réponse que pourrait faire un humain. Pour l’avoir testé sur quelques sujets de prédilection, c’est vrai qu’on a l’impression assez incroyable de ne pas avoir à faire à un chatbot classique qui répond à côté de la plaque. Et en plus chaque réponse se veut unique.
Pour arriver à un tel niveau d’efficacité, chatGPT a été entraîné et a ingurgité d’immenses bases de données. Pour donner un ordre de grandeur, la base de données de wikipedia ne représenterait que 0,6% du total des données utilisées par celle de chatGPT.
Je ne m’étendrai pas sur ce sujet car plein d’articles l’ont traité. Le miracle de l’efficacité de ce chatGPT ne tient pas tant à la pertinence de ces réponses qu’à l’illusion qu’il donne de répondre comme un humain , peu importe l’exactitude ou la fiabilité de ces propos. Parfois , l’IA invente des mots et ment droit dans son bot 🙂 source ici.
Mais faut l’admettre, très souvent ses réponses sont consensuelles , plutôt équilibrées et argumentées Attention toutefois elles contiennent nécessairement des biais et parfois le bot peut proposer des réponses contradictoires selon comment la question est posée.
Les problèmes commencent à poindre…
la vie privée bafouée:
Le modèle économique:
chatGPT appartient à la société américaine openAI, société à but lucratif mais qui propose la gratuité de l’utilisation de son chatbot, du moins pour le moment. Mais pour combien de temps encore? une version PRO est dors et déjà disponible. Du coup tu le sens venir que le produit final c’est toi, petit utilisateur qui fournit gratuitement la valeur à leur chatbot 😉
En effet, chatGPT s’enrichit de nos questions et des réponses qu’on valide.Nous nourrissons la bête par son utilisation , un schéma classique dans l’intelligence artificielle. Elle mémorise absolument tous nos échanges. C’est l’apprentissage par renforcement. En gros , on l’entraîne gratos et sans trop savoir exactement ce que deviennent les données fournies, leur traitement , leur durée de rétention etc
Et pour s’inscrire et pouvoir utiliser chatGPT , il faut filer son mail ET son numéro de téléphone.Autant te dire , « souriez vous êtes filmés » 🙂
En effet, il n’existe à ce stade aucune transparence sur la manière dont sont construites et fournies les réponses. Grosse opacité donc sur les algos utilisés. Et en général, « quand on ne veut pas ouvrir le capot , c’est qu’il y a problemo. » De plus , chatGPT n’est pas connecté en temps réel avec le web et donc il faut être très prudent sur la fiabilité et la fraîcheur des réponses. D’ailleurs sur certaines réponses, très peu sont sourcées.
Des métiers concurrencés, des triches identifiées…
J’ai envie de parler un peu des risques avérés ou surestimés que posent déjà l’utilisation de chatGPT.Sa capacité à pouvoir générer du texte en fonction de critères contextuels rentre clairement en concurrence avec certaines professions dont c’est le métier.L’IA chatGPT peut faire aussi bien voir mieux que certains écrits de journalistes/pigistes ou marketteux. On peut imaginer que certaines tâches soient automatisées comme les réponses à des mails, des campagnes marketting etc
Côté éducation nationale , c’est branlebas de combat! Plusieurs élèves ont eu recours à chatGPT pour rédiger leurs copies (source leparisien). A New-York son utilisation a même été prohibée dans les Universités.
Mais utiliser chatGPT c’est nécessairement tricher? A voir, son utilisation peut être aussi un bon moyen d’apprendre et d’essayer de comprendre un sujet expliqué de manière différente.
Et de toute manière pour que le chatbot nous réponde pertinemment , il faut savoir lui poser la bonne question avec les bons termes et du coup avoir nécessairement bien cerné et apprivoisé le sujet en amont. Dans le monde du chatbot, on parle de trouver le bon « prompt ». Bref , je crois que ce genre de débat existait déjà quand Google a fait son apparition. Et évidement premier réflexe pavlovien, on interdit!
Et pour l’anecdote, des personnes malveillantes ont déjà trouvé une utilisation pratique pour leurs activités à savoir utiliser chatGPT pour créer des malwares ou générer des modèles de phishing. ( source ici)
Pour conclure, en fait, chatGPT a le mérite de relancer et remettre dans le débat public l’utilisation de l’intelligence artificielle telle qu’elle est pensée et mise en œuvre par des sociétés privées. Comment ces nouvelles technologies impactent toutes les activités humaines que ce soit pour le meilleur ou le pire !
Leave a Reply