Quelles sont les réponses surprenantes du chatbot ?

0
30
ChatGPT-reponses-hallucinations.jpg

ChatGPT d’OpenAI : des réponses incohérentes suscitent des interrogations

Le 20 février dernier, plusieurs utilisateurs de ChatGPT, l’agent conversationnel d’OpenAI qui a gagné en popularité en 2023, ont remarqué des réponses étranges de la part de l’IA. Certaines réponses semblaient n’avoir aucun lien avec la question posée, d’autres étaient un mélange de différentes langues. Ces incohérences ont été compilées par les utilisateurs dans des threads sur X et ajoutées au subreddit dédié à ChatGPT.

Par exemple, en réponse à une simple question mathématique, un utilisateur a reçu une longue litanie de mots sans rapport avec la question. Dans un autre cas, ChatGPT a répondu à une requête banale par une série de phrases sans lien apparent. Dans certains cas, il semble même que l’IA ait inventé une nouvelle langue ou mélangé plusieurs langues existantes.

ChatGPT-réponses-hallucinations
OpenAI présente SalvatoreGPT, le chatbot qui communique dans toutes les langues en même temps, comme Salvatore, dans Le Nom de la Rose d’Umberto Eco. © @seanw_m/Montage BDM

Les utilisateurs tentent de comprendre le problème de ChatGPT

Face à ces réponses inattendues, les utilisateurs ont tenté de comprendre ce qui se passait. Certains ont même demandé directement à ChatGPT s’il avait un problème. D’autres ont signalé ces problèmes sur les sites dédiés aux bugs de plateformes. Le site totalbug.com a mentionné que la journée du 20 février a été particulièrement perturbée pour ChatGPT, avec plusieurs pannes affectant tant la version gratuite que la version payante du service.

La réaction d’OpenAI

En réponse à ces problèmes, OpenAI a mis à jour la page d’information sur le statut de ses services. L’éditeur du chatbot a lancé des investigations suite aux signalements de réponses inattendues de ChatGPT. Quelques minutes plus tard, le problème a été identifié et les équipes ont commencé à travailler pour le résoudre. Deux heures plus tard, OpenAI a assuré qu’elle continuait de surveiller la situation.

ChatGPT-OpenAI-investigation
OpenAI a communiqué sur ce bug étonnant sur sa page dédiée au statut de ses services. © Capture d’écran BDM

Il y a un an, presque jour pour jour, c’est le chatbot de Microsoft, Bing (devenu depuis Copilot), qui proposait des réponses étranges. De son côté, My AI, l’ami virtuel de Snapchat, a donné des conseils inappropriés à un utilisateur se faisant passer pour une jeune fille de 13 ans. Snapchat s’est excusé, rappelant que son outil pouvait être sujet à des hallucinations, comme la plupart des chatbots. Cependant, c’est la première fois que ChatGPT rencontre de tels problèmes, en dehors de quelques pannes et cyberattaques.