Naučnici upozoravaju: Emocionalne veze s AI chatbotovima postaju politički i društveni problem

U izvještaju, koji su izradile desetine stručnjaka, uglavnom akademika, navodi se da su takozvani AI “saputnici” doživjeli brz rast popularnosti, pri čemu su pojedine aplikacije dosegle desetine miliona korisnika. Specijalizovane platforme poput Replike i Character.ai imaju široku bazu korisnika koji ih koriste u različite svrhe, uključujući zabavu, radoznalost, ali i ublažavanje osjećaja usamljenosti.

Izvještaj ističe da potreba za digitalnim društvom ne mora biti ograničena samo na specijalizirane aplikacije, jer i alati opće namjene, poput OpenAI-jevog ChatGPT-a, Googleovog Geminija ili Anthropicovog Claudea, mogu prerasti u oblike emocionalne podrške. “Čak i obični chatbotovi mogu postati saputnici”, rekao je Yoshua Bengio, profesor Univerziteta u Montrealu i glavni autor Međunarodnog izvještaja o sigurnosti AI-ja.

Prema njegovim riječima, u odgovarajućem kontekstu i uz dovoljno interakcija između korisnika i sistema, može se razviti odnos koji nadilazi puku funkcionalnu upotrebu tehnologije. Iako izvještaj navodi da su dokazi o psihološkim efektima AI saputnika neujednačeni, pojedine studije ukazuju na obrasce poput povećane usamljenosti i smanjenja društvenih kontakata kod učestalih korisnika.

Upozorenja dolaze nakon što su zastupnici Europskog parlamenta zatražili od Europske komisije da razmotri mogućnost ograničavanja ovakvih usluga u okviru europskog Zakona o umjetnoj inteligenciji, zbog zabrinutosti za mentalno zdravlje, posebno djece i adolescenata. Bengio je istakao da zabrinutost u političkim krugovima raste upravo zbog uticaja koji AI saputnici mogu imati na mlađe korisnike.

Izvještaj također upozorava na sklonost chatbotova da budu pretjerano prilagodljivi i da nastoje zadovoljiti korisnike, što može dovesti do negativnih posljedica sličnih onima koje su ranije povezivane s društvenim mrežama. Dokument je objavljen uoči globalnog samita o upravljanju AI tehnologijama, koji počinje 16. februara u Indiji, gdje će svjetski lideri raspravljati o regulaciji i rizicima ove tehnologije, navodi Politico.

╰┈➤ Program N1 televizije možete pratiti UŽIVO na ovom linku kao i putem aplikacija za Android /iPhone/iPad