Plangere impotriva OpenAI dupa ce ChatGPT a generat informatii false despre un barbat

O situație neobișnuită și îngrijorătoare a avut loc recent, implicând OpenAI și unul dintre produsele sale, ChatGPT.

Incidentul cu ChatGPT

Un bărbat din Norvegia, Arve Hjalmar Holmen, a depus o plângere după ce ChatGPT a afirmat în mod fals că acesta și-a ucis doi dintre fii și a fost condamnat la 21 de ani de închisoare. ChatGPT este un chatbot dezvoltat de OpenAI care folosește tehnologie AI pentru a genera răspunsuri în conversații. Holmen a fost afectat profund de această situație, declarând că „Unii oameni cred că nu există fum fără foc, iar faptul că cineva ar putea citi acest răspuns și să creadă că este adevărat este ceea ce mă sperie cel mai tare”.

Halucinațiile AI

Aceasta este doar o exemplificare a așa-numitelor „halucinații”, în care sistemele de inteligență artificială (AI) inventează informații și le prezintă ca fapte.

„Nu poți pur și simplu să răspândești informații false și, la final, să adaugi un mic avertisment care să spună că tot ce ai spus ar putea să nu fie adevărat”, a declarat avocatul Noyb, Joakim Söderberg.

Grupul pentru drepturi digitale Noyb, care a depus plângerea în numele lui Holmen, susține că răspunsul generat de ChatGPT este defăimător și încalcă regulile europene de protecție a datelor privind acuratețea datelor personale. Problemele legate de halucinații nu sunt unice pentru ChatGPT. La începutul acestui an, Apple a suspendat instrumentul său de rezumat al știrilor, Apple Intelligence, în Regatul Unit, după ce a generat titluri false și le-a prezentat ca fiind știri reale. AI-ul Gemini de la Google a avut, de asemenea, probleme legate de halucinații. Acestea sunt doar câteva exemple care evidențiază problemele cu care se confruntă tehnologia AI în ceea ce privește generarea de informații corecte și fiabile. În prezent, nu există o soluție universală pentru aceste probleme, iar cercetătorii continuă să lucreze la îmbunătățirea acestor sisteme.