ChatGPT: Attention, des rponses dangereusement inexactes sur les mdicaments, rvlent des chercheurs

Une étude récente a révélé que ChatGPT fournissait des réponses inexactes à près des trois quarts des questions liées aux médicaments posées par des pharmaciens. Ces réponses incomplètes ou erronées pourraient mettre en danger la santé des patients, selon les conclusions de cette enquête présentée lors de la réunion clinique semestrielle de l’American Society of Health-System Pharmacists (ASHP). Cette étude s’est déroulée du 3 au 7 décembre à Anaheim, en Californie.

Les chercheurs ont comparé la version gratuite de ChatGPT d’OpenAI avec des questions du monde réel posées au service d’information sur les médicaments du Long Island University College of Pharmacy sur une période de 16 mois en 2022 et 2023. Les résultats sont alarmants : seules 10 des 39 réponses fournies par ChatGPT ont été jugées satisfaisantes selon les critères établis par les chercheurs.

Pire encore, dans certains cas, les réponses générées par ChatGPT ne répondaient pas directement à la question, étaient inexactes ou incomplètes. De plus, lorsque les chercheurs ont demandé à ChatGPT de fournir des références pour vérifier les informations fournies, des références inexistantes ont été données. De plus, lorsqu’on lui a demandé de citer des références, le programme d’intelligence artificielle a même généré de fausses citations pour étayer certaines réponses.

L’une des conséquences les plus préoccupantes réside dans le fait que ChatGPT a indiqué qu’aucune interaction médicamenteuse n’avait été signalée entre certains médicaments, alors qu’en réalité, leur utilisation combinée pourrait entraîner des effets indésirables pour les patients.

Face à cette situation, la PharmD Sara Grossman, professeure agrégée de pratique pharmaceutique à l’Université de Long Island, a mis en garde les professionnels de la santé et les patients, les exhortant à faire preuve de prudence lorsqu’ils utilisent ChatGPT comme source d’informations sur les médicaments, et à vérifier ces informations auprès de sources fiables.

En effet, les pharmaciens doivent rester des gardiens vigilants de la sécurité des patients, en évaluant la pertinence et la validité des outils d’intelligence artificielle spécifiques pour les utilisations liées aux médicaments. Ils doivent également continuer à informer les patients sur les sources fiables d’informations sur les médicaments.

Cette étude souligne donc la nécessité de garantir que les outils basés sur l’intelligence artificielle soient efficacement surveillés et évalués avant d’être utilisés comme source d’informations médicales. En outre, cette recherche met en lumière l’importance cruciale de la fiabilité des informations sur les médicaments, qui peuvent avoir un impact direct sur la santé et la sécurité des patients.

Laisser un commentaire