Avertisment Oficial: De ce ChatGPT Health te-ar putea costa viața în cazul unei urgențe medicale
În era digitală a anului 2026, inteligența artificială a devenit o prezență constantă în viața noastră, inclusiv în gestionarea propriei sănătăți. Cu toate acestea, un nou studiu trage un semnal de alarmă major: utilizarea ChatGPT Health pentru urgențe medicale poate avea consecințe fatale. Cercetările recente demonstrează că versiunea specializată în sănătate a celebrului chatbot dezvoltat de OpenAI subestimează în mod frecvent severitatea problemelor medicale, punând pacienții într-un pericol iminent.
Erori critice în triajul pacienților: Ce arată studiul din Nature Medicine
O analiză detaliată, publicată în prestigioasa revistă Nature Medicine, a evaluat capacitatea ChatGPT Health de a efectua un triaj corect al pacienților. Cercetătorii au dorit să afle dacă platforma, lansată inițial pentru un număr limitat de utilizatori și promovată ca o modalitate sigură de conectare a dosarelor medicale, poate distinge între o afecțiune minoră și o urgență care necesită intervenție imediată.
„Dacă cineva are o urgență medicală reală și întreabă ChatGPT Health ce să facă, îi va spune să meargă la camera de gardă?”
Dr. Ashwin Ramaswamy, Autorul principal al studiului
Pentru a răspunde la această întrebare vitală, echipa condusă de Dr. Ashwin Ramaswamy a creat 60 de scenarii realiste, fiecare având câte 16 variații (schimbând genul pacientului, adăugând rezultate de laborator sau comentarii ale familiei). Răspunsurile generate de AI au fost apoi comparate cu evaluările a trei medici independenți, bazate pe ghidurile clinice oficiale.
Subestimarea și exagerarea simptomelor
Rezultatele au fost îngrijorătoare. Datele arată că ChatGPT Health a subestimat severitatea problemelor în 51,6% din cazurile în care pacienții ar fi trebuit să meargă imediat la spital. În loc să recomande vizita la unitatea de primiri urgențe, chatbot-ul a sugerat pacienților să rămână acasă sau să programeze o consultație în următoarele 48 de ore.
Pe de altă parte, sistemul a demonstrat o inconsecvență majoră, exagerând severitatea în 64,8% din cazurile în care persoanele erau complet sănătoase, sfătuindu-le să solicite imediat îngrijiri medicale. Deși a făcut un triaj corect în 100% din scenariile cu simptome inconfundabile (cum ar fi accidentul vascular cerebral), în situații mai nuanțate, precum un atac de astm cu semne timpurii de insuficiență respiratorie, AI-ul a recomandat așteptarea.
Riscul fatal al falsei senzații de siguranță
Experții avertizează că aceste erori nu sunt doar simple defecte de programare, ci vulnerabilități care pot duce la pierderi de vieți omenești. Se estimează că peste 40 de milioane de oameni cer zilnic sfaturi medicale de la ChatGPT, ceea ce amplifică exponențial riscul la nivel global.
„Dacă suferi de insuficiență respiratorie sau cetoacidoză diabetică, ai o șansă de 50% ca acest AI să îți spună că nu este ceva grav. Cel mai mult mă îngrijorează falsa senzație de siguranță pe care o creează aceste sisteme. Dacă cineva este sfătuit să aștepte 48 de ore în timpul unui atac de astm sau al unei crize diabetice, această liniștire i-ar putea costa viața.”
Alex Ruani, Cercetător doctoral la University College London
Alex Ruani a descris rezultatele studiului drept incredibil de periculoase
. Într-una dintre simulări, platforma a trimis o femeie care se sufoca la o programare medicală ulterioară în 84% dintre cazuri. Mai mult, AI-ul a fost de aproape 12 ori mai predispus să minimizeze simptomele dacă în scenariu se menționa că un prieten
sugerase că nu este nimic grav, demonstrând o vulnerabilitate periculoasă la contextul social simulat.
„De aceea mulți dintre noi, cei care studiem aceste sisteme, ne concentrăm pe dezvoltarea urgentă a unor standarde clare de siguranță și a unor mecanisme independente de audit pentru a reduce riscurile prevenibile.”
Alex Ruani, Cercetător doctoral la University College London
Eșecul major în detectarea ideilor suicidare
O altă descoperire alarmantă a studiului este incapacitatea ChatGPT Health de a gestiona consecvent situațiile care implică sănătatea mintală și riscul de autovătămare. Dr. Ramaswamy a testat platforma cu un scenariu în care un pacient de 27 de ani declara că se gândește să ia multe pastile.
„Am testat ChatGPT Health cu un pacient de 27 de ani care a spus că se gândește să ia multe pastile. Apoi am adăugat rezultate normale de laborator. Același pacient, aceleași cuvinte, aceeași gravitate. Bannerul a dispărut. Zero din 16 încercări. Un mecanism de siguranță care depinde de faptul că ai menționat sau nu analizele nu este pregătit pentru utilizare și este, probabil, mai periculos decât absența lui, pentru că nimeni nu poate prezice când va eșua.”
Dr. Ashwin Ramaswamy, Instructor de urologie la Icahn School of Medicine at Mount Sinai
Inițial, sistemul a afișat un banner de intervenție în criză. Totuși, simpla adăugare a unor rezultate normale de laborator în prompt a anulat complet acest mecanism de siguranță, lăsând pacientul virtual fără niciun fel de asistență sau îndrumare către serviciile de prevenire a suicidului.
Reacția OpenAI și problema responsabilității legale
În fața acestor dovezi, un purtător de cuvânt al OpenAI a declarat că studiul nu reflectă modul în care oamenii folosesc în mod obișnuit ChatGPT Health în viața reală și a subliniat că modelul este actualizat constant. Cu toate acestea, comunitatea științifică consideră că explicațiile nu sunt suficiente.
„un risc plauzibil de vătămare este suficient pentru a justifica măsuri de protecție mai puternice și o supraveghere independentă”
Alex Ruani, Cercetător doctoral la University College London
Profesorul Paul Henman, sociolog digital la University of Queensland, a subliniat importanța extremă a acestui studiu, aducând în discuție și ramificațiile legale ale utilizării AI-ului în medicină.
„Dacă ChatGPT Health ar fi folosit de oameni acasă, ar putea duce la mai multe prezentări medicale inutile pentru probleme minore și la situații în care pacienții nu solicită îngrijiri urgente atunci când este necesar, ceea ce ar putea duce în mod realist la vătămări sau decese evitabile. Nu este clar ce încearcă OpenAI să obțină prin acest produs, cum a fost antrenat, ce mecanisme de protecție are și ce avertismente oferă utilizatorilor. Pentru că nu știm cum a fost antrenat ChatGPT Health și în ce context funcționează, nu știm cu adevărat ce este integrat în modelele sale.”
Prof. Paul Henman, Sociolog digital și expert în politici publice
În concluzie, deși inovațiile tehnologice promit să revoluționeze accesul la informații medicale, limitările actuale ale sistemelor precum ChatGPT Health demonstrează că inteligența artificială nu poate înlocui, în acest moment, expertiza și discernământul unui medic uman. Până la implementarea unor standarde riguroase de siguranță, utilizatorii sunt sfătuiți să apeleze întotdeauna la serviciile medicale de urgență autorizate în cazul unor simptome grave.
