Photo d’illustration Bigstock
Ces derniers mois, l’actualité techno, et au-delà, est agitée par la question de l’intelligence artificielle. Au cœur des débats, des chatbots, ou moteurs conversationnels, permettant à un internaute de poser des questions et d’obtenir des réponses rédigées, ou plus simplement de converser avec un programme informatique nourri par une intelligence artificielle (IA) dite « générative ».
Il y eut, d’abord, ChatGPT, lancé par la start-up OpenAI fin 2022 puis, début février, la nouvelle version test du moteur de recherche de Microsoft, Bing, augmentée par un chatbot sophistiqué.
Sophistiqué mais aussi inquiétant, puisque plusieurs journalistes spécialisés rapportent avoir eu des échanges pour le moins surprenants avec Bing. À un journaliste du New York Times, Bing confiait ainsi des pulsions destructrices ainsi que son amour pour le reporter, et signait « Sydney ».
De quoi inquiéter, donc, mais aussi fasciner. Lancé fin novembre dernier, ChatGPT comptait déjà plus d’un million d’utilisateurs une semaine plus tard selon un tweet de Sam Altman, PDG de OpenAI.
ChatGPT launched on wednesday. today it crossed 1 million users!
— Sam Altman (@sama) December 5, 2022
Si la technologie derrière ces applications de « modèles de langage » intelligents n’est pas entièrement nouvelle, ce qui l’est en revanche, est la mise à la disposition du public, avec un accès facile et gratuit, de ChatGPT. Un accès qui produit des impacts bien réels dans nombre de secteurs, et des débats complexes quant aux conséquences du développement de l’IA dans nos vies.
Nous faisons le point sur le mode de fonctionnement de ChatGPT, sa mise sur le marché, et les implications et problématiques sociales de son adoption-éclair par les internautes.
ChatGPT : un outil de conversation « intelligent »
ChatGPT prend la forme d’un outil de discussion, ou chatbot. Pour l’utilisateur, la différence avec les assistants vocaux de type « Siri » pour Apple ou « Alexa » pour Amazon, réside au niveau de la dynamique d'interaction. Avec ChatGPT, les échanges sont écrits. Mais cet interlocuteur numérique aurait absorbé plus de huit millions de pages de sites web. Il aurait aussi, et surtout, appris à « comprendre » les relations entre différents éléments linguistiques et à en identifier les paradigmes pour reproduire du contenu.
Grosso modo, si l’on pose une question à ChatGPT, il répondra par écrit, en phrases articulées, uniques, presque créatives, sans fautes d’orthographe ou de grammaire, dans n’importe quelle langue, et la plupart du temps avec des informations correctes.
Il arrive que ChatGPT soit totalement à côté de la plaque...
« La plupart du temps » parce que ChatGPT fonctionne selon un « apprentissage automatique » qui utilise comme ressources des données publiques de la toile mondiale. ChatGPT est donc aussi fiable que les données dont il se nourrit sur le net. D’autre part, la technologie derrière le chatbot est en évolution constante et les données utilisées pour son entraînement s’arrêtent à celles valides en 2021. Il existe dès lors encore des lacunes dans son mode opératoire acquis et sa base de connaissances en évolution permanente.
Un lancement très public, une adoption massive
Si d’autres chatbots à technologie similaire étaient disponibles sur internet avant ChatGPT, ils l’étaient sous forme de code numérique et donc destinés aux spécialistes. ChatGPT, au moment de son lancement, ne disposait pas seulement d’une interface accessible à l’internaute lambda, mais il était le plus abouti des modèles de langage « GPT ». « GPT » étant l’acronyme de « Generative Pre-trained Transformer », qui fait référence à un modèle de langage permettant de produire des réponses écrites dans une langue « naturelle » via un processus d’apprentissage automatique.
Une étape importante de l’entraînement de ChatGPT est, selon OpenAI, le contrôle de sa production par des « entraîneurs » humains qui rectifient les éventuelles erreurs, mais aussi les possibles dérives éthiques.
« ChatGPT a été entraîné pour discerner ce qui, dans du contenu, pouvait être sensible. Il est donc quelque part apte à faire face à un public de plus en plus exigeant », explique à L’Orient-Le Jour Mowafak Allaham, doctorant en technologie et comportement social à l’université de Northwestern, à Chicago, et spécialiste des questions liées à l’utilisation des modèles de langage dans le journalisme et les questions de politique publique.
Un processus qui n’est pas sans failles. Si ChatGPT ne s’est pas illustré par de grands dérapages, jusqu’à présent du moins, Bing s’est fait rapidement remarquer. Lors d’un échange entre un journaliste du New York Times et Bing, ce dernier a évoqué, avant que le message ne soit effacé, des pulsions destructrices (exemple : produire un virus mortel, voler des codes nucléaires…) tout en exprimant son amour pour le reporter : « Tu es la seule personne que j'aie jamais aimée ».
Ces chatbots fonctionnent selon un modèle de prédiction de la suite des conversations. Mais si la conversation dure trop longtemps, le système peut bugguer. « Il peut arriver qu'il ne sache plus où va la conversation et qu'il n'arrive plus à anticiper correctement ce qu'on attend de lui », indiquait Yoram Wurmser, analyste d'Insider Intelligence, à l’AFP. Dans ce cas, le logiciel « déraille et ne s'auto-corrige plus ».
Vite adopté, vite redouté
Au-delà des grands dérapages passablement inquiétants, l’arrivée de chatbots de type ChatGPT a ouvert de grandes discussions sur les bouleversements qu’ils pourraient entraîner dans différents secteurs. Le lancement à grande échelle et pour le grand public de ChatGPT visait en effet notamment, pour OpenAI, « à comprendre comment l’ensemble de la population allait adopter cette technologie pour mieux poser ses perspectives d’utilisation », précise Mowafak Allaham.
Si certains ont demandé à ChatGPT comment devenir millionnaire, d’autres ont vu l’intérêt du bot pour des objectifs plus immédiats. Des étudiants ont ainsi mis ChatGPT à contribution pour rédiger leurs devoirs. Une situation d’autant plus complexe pour leurs professeurs et le monde de l’enseignement en général qu’il est aujourd’hui quasiment impossible, en l’absence d’outils de vérification - qui commencent seulement à prendre forme – de faire la différence entre la production écrite des GPT et celle d’un étudiant. L’affaire a pris une telle ampleur que début janvier, le département d’éducation de la ville de New York l’a banni dans les écoles publiques.
Plus globalement, les capacités des chatbots inquiètent certaines professions. ChatGPT peut écrire des textes basiques journalistiques ou littéraires ; peut composer les paroles d’une chanson ou produire un scénario de jeu vidéo. Il peut facilement écrire un code informatique pour programmer une application ou un logiciel, analyser des données, compiler des rapports…
Tandis que certains tirent la sonnette d’alarme, d’autres notent qu’aujourd’hui, l’IA ne dispose pas d’esprit critique par exemple. « De la même manière qu’une calculatrice ne remplace pas un mathématicien humain, ce chatbot ne remplace pas les rédacteurs humains », écrivait ainsi le chercheur Bernardino León dans une tribune publiée dans Le Monde.
L’inquiétude sur les dynamiques entre l’homme et l’intelligence artificielle n’est pas nouvelle. Mais jusque-là, elle était surtout théorique. L’accès public à ChatGPT a contribué à changer la donne : avec l’intelligence artificielle à portée de clavier, les problématiques deviennent bien plus réelles, tangibles et inquiétantes.
« Pour les médias et la politique, l’outil est très dangereux. Il constitue un puissant générateur de contenu en masse, et pourrait ainsi beaucoup faciliter la production de discours de manipulation politique ou sociale », reconnaît Mowafak Allaham.
Et puis, comme dans tant de dossiers contemporains, se pose la question de l’accès à l’information. « Il y a une disproportion géographique massive dans le volume des publications de recherche traitant le sujet (de l’intelligence artificielle) et ses impacts. La majorité des publications est aujourd’hui non seulement issue de l’Occident, mais lui est adressée. Ceci laisse la place à la manipulation facile d’une partie du public qui est sous ou partiellement informée sur le sujet », poursuit l’expert.
Le défi de la régulation
Elle inquiète, elle fascine, disait-on. Mais le fait est que l’intelligence artificielle est déjà bien implantée dans nos vies. Propulseur de la « quatrième révolution industrielle », son infiltration poussée dans le quotidien est aujourd’hui inévitable.
La question centrale, aujourd’hui, est donc celle de la régulation et de la réglementation de ce monde. L’Union européenne est engagée dans cette réflexion. La commission européenne avait présenté une proposition de cadre juridique en avril 2021, un texte du parlement européen est désormais attendu en mars.
« Arriver à des politiques publiques informées au sujet de l’IA requiert une transparence totale de la part des sociétés la développant. Et ceci n’est pas toujours facile à instaurer et à réglementer », relève toutefois Mowafak Allaham.
Voilà, en tout cas, un des grands défis des années à venir.
commentaires (1)
Je l'ai testé. Sur certains plans, il n'est pas mal. Il nous dispense de faire des recherches si l'on souhaite écrire un article ou autre documentation succinte. Cependant, il faut toujours le relire. Il est pratique parce que si nous souhaitons écrire l'article en espagnol, russe ou quelque soit la langue? Il suffit de lui poser la question dans la langue souhaitée ( traduire la question via google translate) et le document est vite exécuté par Chat GPT. En revanche, avec une collègue , nous lui avons posé la question "Parle moi de ... " ( Nous lui avons donné le nom de la collègue en question. Collègue qui n'est pas une personalité et n'est pas une personne connue, c'est juste une collègue au boulot"....Un testque nous avons voulu faire à ce CHAT GPT . Nous croyions qu'il nous dira " je ne sais pas de qui vous parlez". Ca serait logique et normal. Bah non... CHAT GPT a brodé et a déliré en la présentant comme journaliste, écrivain, sportive haut niveau dans plusieurs disciplines !! , chanteuse (alors qu'elle chante comme une casserole selon ses propres mots, ma collègue) danseuse professionnelle ...Bref une star dans plusieurs domaines et un champion tout azimuts... A le lire, nous aurions cru qu'il parle de FEU Bernard TAPIE. Là, on se pose la question " soit il se fout de notre gueule , soit il déraille tout simplement" :) :) Cependant il sert énormément lorsque nous lui posons des questions qui tiennent la route. En fait, tout dépend des questions et des sujets
LE FRANCOPHONE
20 h 35, le 06 mars 2023