Să-i cereți unui chatbot sfaturi medicale ar putea genera halucinații AI și chiar vă poate expune la riscuri de securitate și confidențialitate. Iată ce este în joc și cum rămâneți în siguranță. Fie în bine sau în rău, chatbot-urile schimbă deja modul în care gândim, învățăm și percepem lumea din jur. Acest gen de schimbare majoră se manifestă în multe domenii ale vieții, însă devine îngrijorătoare utilizarea tot mai frecventă a instrumentelor GenAI în domeniul sănătății. Pe lângă numeroasele chatbot-uri AI disponibile gratuit, marile companii de tehnologie au făcut pasul către soluții de sănătate AI destinate direct consumatorilor, prin lansarea unor servicii precum Microsoft Copilot Health, ChatGPT Health și Amazon HealthAI. Modelele îi ajută pe utilizatori să-și interpreteze dosarele medicale și să pună întrebări despre simptome, analize de laborator și opțiuni de tratament.

Există însă riscuri atunci când credem că un instrument AI poate înlocui un medic. Pericolul nu constă doar în posibilitatea de a primi sfaturi greșite, ci și în împărtășirea de informații personale extrem de sensibile unor sisteme ale căror măsuri de protecție a confidențialității, practici de partajare a datelor și obligații legale pot diferi de cele ale unui medic sau spital. De asemenea, există riscul ca datele să ajungă la entități neașteptate. Potrivit unei organizații pentru siguranța pacienților, utilizarea necorespunzătoare a chatbot-urilor AI este în prezent principalul risc din domeniul tehnologiilor medicale.

De la teorie la practică

Motivul pentru care dezvoltatorii de modele AI intră în acest domeniu este evident: chatbot-urile sunt frecvent folosite pentru a căuta sfaturi medicale. Potrivit Microsoft, oamenii discută despre propria sănătate și despre sănătatea celor apropiați mai mult decât despre orice alt subiect pe mobil. Chatbot-urile sunt disponibile non-stop și oferă răspunsuri pe un ton sigur și convingător, care îi poate face pe pacienții anxioși să se simtă mai liniștiți.

Într-o perioadă în care sistemele naționale de sănătate sunt supuse unei presiuni tot mai mari, mulți oameni aleg să-și pună singuri un diagnostic cu ajutorul AI înainte de a decide dacă au nevoie de asistență medicală. Timpul, efortul și costurile implicate de navigarea prin sistemul medical, în locul unei evaluări preliminare făcute acasă, o transformă într-o opțiune tot mai populară.

Totuși, îngrijorările încep deja să apară. Prima dintre ele este legată de halucinații sau de oferirea unor sfaturi incorecte. Un studiu al University of Oxford, publicat în februarie în Nature Medicine, a constatat că:
– Utilizatorii adesea nu știau ce informații ar trebui să partajeze cu modelul LLM
– LLM-urile ofereau răspunsuri foarte diferite, chiar și atunci când întrebările adresate variau doar ușor
– Modelele furnizau frecvent atât sfaturi bune, cât și sfaturi greșite, însă utilizatorii aveau dificultăți în a le diferenția

„În ciuda faimei, AI-ul pur și simplu nu este pregătit să preia rolul medicului”, a avertizat coordonatorul studiului, dr. Rebecca Payne. „Pacienții trebuie să fie conștienți că interogarea unui model LLM cu privire la simptomele lor poate fi periculoasă, oferind diagnostice greșite și eșuând în a stabili când este nevoie de ajutor urgent.”

Ce riscuri de confidențialitate există

Există și riscuri care nu țin direct de sănătate și care ar trebui să îi facă pe utilizatori să se gândească de două ori. Cel mai evident este antrenarea modelului (disponibil public) cu informații medicale sensibile care, ulterior, pot fi reproduse în răspunsurile oferite altor utilizatori. Chiar și neintenționat, astfel de modele sunt cunoscute că au expus accidental date introduse de utilizatorii lor.

Unii furnizori pot folosi datele utilizatorilor pentru a-și îmbunătăți modelele, dacă aceștia nu aleg explicit să se retragă din proces, în timp ce alții promit că nu vor utiliza informațiile legate de sănătate pentru antrenarea AI-ului. În orice caz, fiecare persoană ar trebui să știe exact ce tip de serviciu folosește înainte de a furniza informații sensibile. Datele dvs. medicale nu sunt un card de credit furat, care poate fi blocat, iar apoi înlocuit și reemis. Ele vă aparțin pe viață, iar odată partajate cu un instrument AI, se pot transforma într-o amprentă digitală permanentă.

Pe de altă parte, majoritatea chatbot-urilor de sănătate promit că nu folosesc aceste date pentru antrenarea modelelor. Totuși, antrenarea este doar o parte din tabloul complet al confidențialității, iar aceste servicii pot să nu ofere aceleași garanții în ce privește partajarea datelor cu terți. Informațiile medicale personale pot ajunge în posesia unui agregator de date, o entitate intermediară între furnizorul de model și furnizorul de servicii medicale. De asemenea, ele pot fi partajate cu agenții de publicitate, fie direct, fie prin intermediul acestor agregatori, deși de obicei sunt anonimizate înainte de utilizare. Chiar și așa, utilizatorii ar trebui să fie prudenți: datele medicale sunt extrem de sensibile, iar anonimizarea nu elimină întotdeauna toate riscurile.

Când riscul de breșe crește

Problema cu datele sensibile care trec prin atât de multe organizații este că astfel cresc șansele să ajungă pe mâna escrocilor din mediul digital. Parlamentarii americani susțin că au identificat pierderi de 21 de miliarde de dolari din câteva breșe de securitate la firme de tip broker de date. Datele medicale sunt extrem de ușor de monetizat de către infractori din mai multe motive:
– Își păstrează valoarea pentru perioade lungi de timp, deoarece, de regulă, nu pot fi înlocuite sau reemise (așa cum se întâmplă cu un card bancar).
– Ar putea include informații despre asigurare, cu ajutorul cărora se pot depune cereri false de despăgubire sau se pot primi servicii medicale în numele dvs.
– Ar putea fi folosite pentru a vă șantaja.

Cu cât sunt mai multe companii care dețin aceste date, cu atât apar mai multe oportunități de compromitere sau sustragere de către hackeri. Provocarea vine din faptul că majoritatea instrumentelor AI din domeniul sănătății nu sunt reglementate, fiind clasificate ca servicii destinate consumatorilor (consumer-grade) și nu de nivel enterprise (destinate companiilor). Ceea ce înseamnă că furnizorii s-ar putea să nu fie supuși acelor reguli stricte de protecție a datelor la care v-ați aștepta în mod normal.

Recomandări pentru pacienți

Așadar, cum puteți reduce riscurile asociate utilizării GenAI în domeniul sănătății? Dacă sunteți îngrijorat de o problemă medicală, evitați chatbot-urile generice și căutați, în schimb, instrumente de sănătate. Verificați dacă serviciul explică modul în care gestionează datele, dacă folosește conversațiile pentru antrenarea modelului, dacă partajează informații cu terți și dacă este acoperit de reglementări. Nu vă încredeți orbește în rezultate decât dacă există link-uri cu citări pentru a le verifica. Și chiar și atunci, nu luați răspunsurile ca pe adevăr absolut: cereți întotdeauna și sfatul unui cadru medical și/sau verificați pe un site oficial de sănătate.

Pentru a vă proteja confidențialitatea, luați în calcul următoarele:
– Nu partajați/furnizați niciodată documente medicale, rezultate ale analizelor sau alte documente sensibile într-un instrument AI, cu excepția cazului în care înțelegeți exact cum gestionează acel instrument datele respective.
– Evitați introducerea de nume, adrese, detalii de asigurare sau alte elemente de identificare.
– Asigurați-vă că funcțiile de antrenare și istoricul chat-ului sunt dezactivate.
– Partajați doar un minimum de informații necesare pentru sarcina respectivă.
– Porniți de la premisa că tot ce tastați ar putea fi reținut sau expus și adaptați-vă prompt-urile în consecință.

În cele din urmă, chatbot-urile AI pot fi utile pentru a genera idei de întrebări despre o anumită afecțiune pe care să le adresați medicului sau pentru a explica un termen medical care nu vă este cunoscut. Însă există o mare diferență între a folosi AI-ul pentru a vă pregăti pentru consult și a-l folosi ca substitut pentru îngrijirea medicală. Nu tratați un răspuns dat ca sigur drept diagnostic și nu ignorați simptomele urgente doar pentru că o mașinărie a răspuns liniștitor.