Infofinanciar > Lumea la zi > Dependența de IA! ChatGPT avansează periculos
Lumea la zi

Dependența de IA! ChatGPT avansează periculos

Dependența de IA! ChatGPT avansează periculos
sursă foto: dreamstime

Mira Murati, director tehnologic al OpenAI, a îndemnat la efectuarea de cercetări amănunțite. Se doresc acum mai multe informații în ceea ce privește impactul tehnologiei inteligenței artificiale (IA). Asta pe măsură ce se observă deja un avans considerabil. Se dorește această cercetare amănunțită pentru a reduce riscurile ca IA să devină o dependentă pentru oameni.

Murati, un director executiv de top al companiei din spatele popularului instrument de inteligență artificială ChatGPT, trage un semnal de alarmă. Aceasta a avertizat în timpul unui interviu că, pe măsură ce inteligența artificială avansează, aceasta poate deveni „chiar mai dependentă” decât sistemele care există în prezent.

Companiile introduc funcții care au o memorie mai lungă sau o capacitate mai mare de personalizare. Ceea ce va produce rezultate mai relevante pentru utilizatori, a spus ea. ChatGPT a avansat deja de când prima formă a fost făcută publică. Recent, compania a anunțat că introduce și un sistem de voce pentru acest instrument. Sistem ce le va permite utilizatorilor să se angajeze într-o conversație cu chatbotul.

Dependența de IA

„Odată cu această capacitate vine problema. Adică posibilitatea ca noi să le proiectăm într-un mod greșit și să devină extrem de captivante. Și apoi să devenim într-un fel înrobiți de aceste tehnologii”, a spus ea. Pentru a evita acest lucru, Murati a specificat că cercetătorii trebuie să fie „extrem de atenți”. Și să studieze modul în care oamenii le folosesc. Asta pe măsură ce sistemele sunt implementate pentru a învăța din „implicarea intuitivă” a utilizatorilor.

„Trebuie să descoperim problemele, trebuie să învățăm și trebuie să explorăm mai mult. Există un risc semnificativ în a le face, în a le dezvolta greșit într-un mod care într-adevăr nu ne îmbunătățește viața. Și, de fapt, introduce mai multe riscuri”, a declarat Murati. De la lansarea ChatGPT în urmă cu aproape un an, acesta a crescut vertiginos în popularitate și a fost integrat în produsele Microsoft.

De atunci, alte companii, precum Google, Amazon și Meta, au anunțat și lansat modele lingvistice. S-a creat o cursă a înarmării cu inteligență artificială. Unul dintre riscurile pe care legiuitorii le-au luat în considerare este răspândirea dezinformării din partea IA. Asta din momentul în care sistemele produc „halucinații” sau rezultate inexacte. Acest risc ar putea fi deosebit de îngrijorător în timpul alegerilor.

ChatGBT avansează periculos

Murati a declarat că nu crede că este realist să ne imaginăm o situație de „risc zero”. Dar obiectivul este de a minimiza nivelurile de risc. Asta prin maximizarea în același timp beneficiile pe care le prezintă. „Mă gândesc la asta în termeni de compromisuri. Cât de multă valoare oferă această tehnologie în lumea reală și cât de mult atenuăm riscurile”, a spus ea.

Una dintre cele mai imediate provocări care a fost evidențiată de la lansarea ChatGPT a fost faptul că elevii o folosesc pentru a face temele de la școală. În unele cazuri, aceștia folosesc tehnologia chiar pentru a copia la teste și examene. Murati a spus că tehnologia va necesita adaptarea la noi modalități de predare și evidențierea unor noi modalități de învățare.

O altă preocupare pe care legislatorii au avut-o în vedere este amenințarea pe care tehnologia o reprezintă pentru locurile de muncă. Murati a fost de acord că aceste amenințări sunt reale. Ea a spus că tehnologia va necesita „multă muncă și atenție” pentru a aborda aceste riscuri. „La fel ca orice revoluție majoră, cred că se vor pierde multe locuri de muncă, probabil un impact mai mare asupra locurilor de muncă decât orice altă revoluție. Și trebuie să ne pregătim pentru acest nou mod de viață”, a spus ea, citată de The Hill.