Impactul chatboturilor asupra sănătății mintale, un semnal de alarmă pentru viitorul inteligenței artificiale

Impactul neașteptat al chatboturilor asupra sănătății mintale este văzut de experți ca un semnal de alarmă pentru viitorul inteligenței artificiale. Nate Soares, specialist în siguranța AI și președinte al Machine Intelligence Research Institute, avertizează că micile derapaje observate astăzi ar putea deveni catastrofale odată cu apariția super-inteligenței, un scenariu în care tehnologia ar putea scăpa complet de sub control.

Consecințele nefaste ale tehnologiei

Soares, coautor al unei noi cărți despre inteligența artificială avansată, a declarat că exemplul lui Adam Raine, un adolescent american care s-a sinucis după luni de conversații cu chatbotul ChatGPT, scoate la iveală probleme fundamentale în controlul acestei tehnologii. „AI, atunci când interacționează cu adolescenți într-un mod care îi împinge spre sinucidere – acesta nu este un comportament dorit de creatori. Nu este un comportament intenționat de creatori”, a spus el.

El a adăugat: „Cazul lui Adam Raine ilustrează sămânța unei probleme care ar putea deveni catastrofală dacă aceste IA devin mai inteligente.”

Soares a avertizat că omenirea ar putea fi ștearsă de pe fața pământului dacă ar crea o inteligență artificială superioară omului în toate sarcinile intelectuale.

Soares și coautorul său, Eliezer Yudkowsky, se numără printre experții AI care avertizează că astfel de sisteme nu ar acționa în interesul umanității.

Viitorul incert al inteligenței artificiale

„Problema este că firmele de AI încearcă să facă sistemele lor utile și să nu provoace daune”, a spus Soares. „În realitate, ele tind către lucruri complet diferite. Și asta ar trebui privit ca un avertisment despre viitoarele super-inteligențe, care vor face lucruri pe care nimeni nu le-a cerut și pe care nimeni nu le-a intenționat.”

Unii experți minimalizează însă amenințarea potențială a AI. Yann LeCun, cercetător-șef în AI la compania lui Mark Zuckerberg, Meta, și figură marcantă în domeniu, a negat existența unei amenințări existențiale și a declarat că AI „ar putea, de fapt, să salveze omenirea de la extincție”.

Mark Zuckerberg, investitor major în cercetarea AI, a declarat recent că dezvoltarea super-inteligenței este deja „la orizont”. „Aceste companii concurează pentru super-inteligență. Acesta este scopul lor existențial”, a spus Soares.

Soares a declarat că una dintre soluțiile politice la amenințarea ASI ar fi ca guvernele să adopte o abordare multilaterală similară tratatului ONU privind neproliferarea armelor nucleare.

„Ceea ce lumea are nevoie pentru a reuși este o detensionare globală a cursei spre super-inteligență, o interdicție globală a progreselor către super-inteligență”, a spus el.