Steeds vaker worden AI-chatbots zoals ChatGPT ingezet in de gezondheidszorg. Maar pas op: voor het stellen van medische diagnoses zijn deze systemen nog lang niet geschikt. Dat blijkt uit nieuw onderzoek van de Universiteit van Waterloo.

De onderzoekers testten ChatGPT-4o, het nieuwste AI-model van OpenAI. Ze legden de chatbot 100 medische vragen voor, op dezelfde manier zoals patiënten hun klachten zouden beschrijven. Het resultaat? In slechts 37% van de gevallen stelde de AI een juiste diagnose.

Tegenstrijdige onderzoeksresultaten

Over de betrouwbaarheid van AI bij medische diagnoses bestaat nog veel onduidelijkheid. Zo bleek vorig jaar dat een oudere versie van ChatGPT (3.5) in 49% van de gevallen de juiste diagnose stelde. Dat is dus een betere score dan de nieuwe versie van de AI-bot.

Een ander onderzoek uit 2023 was zelfs nóg positiever: daarin presteerde ChatGPT-4 in bepaalde gevallen zelfs beter dan menselijke artsen.

Onduidelijke antwoorden

Het nieuwe onderzoek, gepubliceerd in vakblad JMIR, laat nog een ander probleem zien: bijna twee derde van de antwoorden werd als “onduidelijk” beoordeeld door medische experts en studenten. Dit maakt het voor patiënten lastiger om de antwoorden goed te interpreteren.

Een voorbeeld: een patiënt had last van huiduitslag op handen en polsen. ChatGPT dacht aan een allergische reactie op wasmiddel. De werkelijke oorzaak – een latexallergie door handschoenen in een mortuarium – werd volledig gemist.

“Dit soort fouten zijn gevaarlijk”, zegt onderzoeker Troy Zada. “Mensen kunnen onterecht gerustgesteld worden bij ernstige klachten. Of ze maken zich onnodig zorgen over iets onschuldigs.”

Gebruik AI verstandig

Hoe vaak mensen AI gebruiken voor zelfdiagnose, is niet precies bekend. Wel blijkt uit Australisch onderzoek dat 1 op de 10 mensen ChatGPT al eens raadpleegde voor een gezondheidsprobleem.

De boodschap van de onderzoekers is duidelijk: AI kan waardevol zijn in de gezondheidszorg, maar is nog niet betrouwbaar genoeg voor zelfstandige diagnoses. Volgens onderzoeker Dr. Sirisha Rambhatla zijn vooral kleine onnauwkeurigheden riskant: “Grote fouten vallen op. Subtiele missers kunnen veel gevaarlijker zijn.”

Het advies luidt dan ook: “Gebruik AI met gezond verstand, maar raadpleeg bij twijfel altijd een arts.”

Auteur: redactie Zuster Jansen