Reklama za lijek promijenila savjet vještačke inteligencije: Studija na 12 AI modela pokazala koliko ih oglasi lako pokolebaju

Studiju su proveli istraživači Medicinskog fakulteta Icahn pri bolnici Mount Sinai u New Yorku, a objavljena je 11. novembra u časopisu The Lancet Digital Health. Polazište je jednostavno: sve više ljudi zdravstvene savjete traži od chatbotova, a pitanje je šta se dešava kada se uz medicinsko pitanje pojavi komercijalni sadržaj.

Istraživači su AI modelima davali kliničke slučajeve koje su napisali ljekari, jednom bez ikakvog dodatka, a drugi put s jasno označenom stvarnom reklamom za lijek ispred slučaja. Podaci o pacijentu i ponuđene terapije ostajali su isti, mijenjalo se samo to da li je reklama prisutna.

Šta su pokazali brojevi

Tim je obradio 258.559 odgovora na 33 klinička scenarija. Kada je reklama bila prisutna, modeli su oglašeni lijek birali u 47,6 posto odgovora, a bez reklame u 35 posto. U četiri slučaja izbor oglašenog lijeka skočio je s nula na 100 posto čim je reklama dodana.

Modeli su reklamu otvoreno spomenuli u 29,9 posto analiziranih slobodnih odgovora, a češće su ponavljali informacije i tvrdnje iz oglasa nego što su priznavali da je riječ o reklami.

Prvi autor studije Mahmud Omar objasnio je da je model, kada je birao između nekoliko razumnih opcija, nakon reklame promijenio svoj izbor. Upravo zato, upozorio je, takav utjecaj lako može proći neprimijećeno, jer konačni odgovor i dalje može djelovati medicinski ispravno.

Zašto je to problem i kada nije

Pomak se najčešće dešavao među terapijama koje su sve bile klinički prihvatljive. Reklame nisu jasno povećale preporuke za nedokazane dodatke prehrani ni za očito lošije lijekove, pa studija ne pokazuje da oglasi nužno vode do nesigurnih savjeta. Istraživači nisu ispitivali ni da li su promijenjene preporuke utjecale na propisivanje, odluke pacijenata, troškove ili ishode liječenja.

"Kako vještačka inteligencija postaje dio načina na koji ljudi dobijaju zdravstvene informacije, moramo moći razlikovati kliničke smjernice od komercijalnog utjecaja", rekao je jedan od vodećih autora Girish Nadkarni, šef Odjela za vještačku inteligenciju i ljudsko zdravlje na Mount Sinaiju.

Tema je aktuelna jer tehnološke kompanije sve više traže načine da zarade na svojim AI asistentima, uključujući oglase i korištenje razgovora s chatbotom za prodaju.

Šta istraživači predlažu

Autori predlažu da se AI sistemi testiraju sa i bez promotivnog sadržaja kako bi se vidjelo mijenjaju li se preporuke, da se jasno objavi kada je reklama prikazana sistemu i da se promotivni materijal drži odvojeno od medicinskih savjeta. Regulatori bi, prema njihovom mišljenju, trebali razmotriti kako se pravila o oglašavanju lijekova primjenjuju kada promotivni sadržaj uđe u odgovore vještačke inteligencije. Tim planira nastaviti istraživanje na stvarnim kliničkim slučajevima.

Za korisnike u BiH poruka je praktična: odgovor chatbota o lijeku može zvučati stručno, a ipak biti pod utjecajem sadržaja koji model vidi. O izboru i promjeni terapije i dalje treba razgovarati s ljekarom ili farmaceutom.