Studiile arată că chatboții medicali nu pot distinge informațiile false

Chatboții utilizați pentru informații medicale se confruntă cu dificultăți în a distinge afirmațiile false, mai ales atunci când sunt prezentate într-un limbaj medical aparent credibil. Această concluzie provine din două studii recente, publicate în revistele The Lancet Digital Health și Nature Medicine, informează ziarulprahova.ro. Această situație ridică puncte de întrebare cu privire la încrederea pe care oamenii o au în aceste instrumente de inteligență artificială.

👉 Rezultatele studiului privind capacitatea chatboților de a recunoaște dezinformarea

Conform unui studiu realizat în ianuarie, cercetătorii au testat 20 de modele de chatboți folosind peste 3,4 milioane de sugestii din forumuri și rețele sociale, constatând că “în aproximativ 1 din 3 situații în care au întâlnit dezinformare medicală, pur și simplu au fost de acord cu ea”, a declarat Dr. Mahmud Omar, cercetător la Centrul Medical Mount Sinai. Acesta a subliniat că modelele au prezentat o capacitate scăzută de a recunoaște dezinformarea atunci când aceasta era formulată în termeni medicali formali.

Dr. Omar a explicat: “Problema principală este că LLM-urile nu eşuează aşa cum eşuează medicii”. Acest tip de inteligență artificială, care se bazează pe un volum mare de date, a avut dificultăți majore în a refuza afirmații false, mai ales când acestea erau prezentate într-un limbaj medical.

👉 Comparație între performanța chatboților și căutarea pe internet

Un al doilea studiu, publicat în februarie, a sugerat că chatboții nu oferă răspunsuri mai bune decât o simplă căutare pe internet. Participanții nu au formulat întotdeauna întrebările corecte, iar răspunsurile primite de la chatboți combinau adesea sfaturi utile cu altele care erau inadecvate. Marvin Kopka, cercetător în inteligență artificială, a declarat: “Chatboții cu inteligenţă artificială pot oferi recomandări destul de bune, aşa că sunt (cel puţin) relativ de încredere”, însă utilizatorii fără expertiză nu pot judeca corectitudinea informațiilor primite.

Aceste descoperiri sugerează că, deși chatboții nu sunt complet inutili, ei nu reprezintă un instrument de încredere pentru deciziile legate de sănătate, a subliniat Dr. Omar. Este evident că există o nevoie de a îmbunătăți aceste tehnologii pentru utilizarea lor în medicină.