Cercetătorii de la OpenAI, firma de programe de Inteligenta Artificiala (AI) cred că GPT-4o este capabil să influențeze normele sociale ale persoanelor care discută cel mai frecvent cu chatbotul.
În filmul Her, Joaquin Phoenix joacă rolul unui scriitor din Los Angeles foarte singur. El o achiziționează pe Samantha, o entitate artificială sensibilă care îl însoțește zilnic. Scriitorul ajunge să se îndrăgostească de ea. Totul este doar în filme, dar realitatea nu este atât de departe de acest scenariu, care se încheie tragic.
De la apariția primelor chatbots, unii utilizatori au dezvoltat sentimente pentru interlocutorul lor virtual. Acest fenomen este acum din ce în ce mai răspândit pe măsură ce inteligența artificială (AI) se îmbunătățește. Acest lucru este valabil în special pentru cea mai recentă versiune a chatbotului OpenAI. Se pare că unii utilizatori au tendința nefericită de a antropomorfiza AI-ul, adica de a crede, tot mai mult, ca au conversatii cu un om. Potrivit cercetătorilor în securitate de la OpenAI, pe măsură ce utilizatorii interacționează din ce în ce mai mult cu aceste chatbot-uri din ce în ce mai realiste, această încredere exacerbată i-ar putea determina să considere “halucinațiile” AI drept fapte reale. Aceste halucinații sunt răspunsurile pe care un AI le inventează uneori atunci când nu dispune de datele care corespund întrebării puse.
Cercetătorii cred chiar că o conversație prea intensă cu aceste chatbots ar putea influența „normele sociale” ale celor mai izolate persoane și ar putea genera o dependență emoțională față de AI. Efectul ar fi întărit de chatbot-urile capabile să comunice folosind audio vocal într-un mod cursiv.
Când inteligența artificială ne face să ne pierdem discernământul
În aceste situații, cercetătorii în domeniul securității au observat că unii utilizatori folosesc un limbaj care sugerează o relație puternică și intimă cu IA. Conversația vocală cu un AI are și un alt efect. IA este programată să fie respectuoasă față de utilizatorul său. Astfel, omul este întotdeauna cel care are autoritatea finală asupra conversației. Prin astfel de interacțiuni, unui utilizator i s-ar putea părea dificil să respecte semnele sociale generale ale unei discuții cu un interlocutor uman. Acest lucru l-ar putea determina să scurteze dialogul, să nu aibă răbdare sau să devină ofensator.
MM
