UNESCO trage un semnal de alarmă cu privire la negarea Holocaustului alimentată de inteligența artificială

Tehnologia de inteligență artificială ajută la crearea de povești false despre atrocitățile din Al Doilea Război Mondial, inclusiv negarea Holocaustului, riscând o „răspândire explozivă a antisemitismului„, a avertizat marți ONU.

UNESCO, organismul ONU pentru educație și cultură, a cerut guvernelor și companiilor de tehnologie să introducă garanții etice. În ceea ce privește tehnologia inteligenței artificiale. Iar școlile să răspândească informația despre riscurile conținutului generat de inteligența artificială.

UNESCO arată că hackerii influențează chatbots

Raportul UNESCO a evidențiat cazuri în care hackerii au manipulat chatbots pentru a răspândi ideologia nazistă, iar în altele în care roboții și–au imaginat propriile povești despre Holocaust.

„Dacă permitem ca faptele îngrozitoare ale Holocaustului să fie diluate, distorsionate sau falsificate prin utilizarea iresponsabilă a inteligenței artificiale. Riscăm o răspândire explozivă a antisemitismului”, a declarat Audrey Azoulay, directorul general al UNESCO.

Ea a spus că acest lucru ar putea duce, de asemenea, la „diminuarea treptată a înțelegerii noastre cu privire la cauzele și consecințele acestor atrocități„. Instrumentele de inteligență artificială care generează conținut – cum ar fi ChatGPT și DALLE-2 – au explodat pe scenă în 2022. Companiile și instituțiile s-au grăbit să le adopte pentru orice, de la traducerea de texte la furnizarea de servicii pentru clienți.

Dar factorii de decizie politică, militanții și autoritățile de aplicare a legii au avertizat de la început că aceste instrumente ar putea fi folosite pentru a extorca bani. A distruge reputații, a influența alegerile și a denatura istoria. Mai multe instrumente au eșuat deja public în istorie. Modelul Gemini de la Google a provocat o controversă globală în februarie. Când a generat imagini cu soldați naziști de diferite etnii.

Denaturarea istoriei Holocaustului

De asemenea, UNESCO a subliniat că ChatGPT a inventat în întregime conceptul de „Holocaust prin înec”. În timp ce chatbotul Bard al Google a fabricat martori pentru a susține neadevăruri despre masacrele naziste.

Documentul politic al UNESCO, publicat împreună cu Congresul Mondial Evreiesc pentru a marca Ziua Internațională de combatere a discursului de ură, a solicitat „acțiuni urgente” din partea guvernelor, a companiilor de tehnologie și a educatorilor.

Karel Fracapane, un expert UNESCO în domeniul educației despre Holocaust, a declarat pentru AFP că denaturările istoriei Holocaustului arată modul în care inteligența artificială ar putea răsturna relația noastră cu adevărul și „duce la o erodare profundă a culturii democratice”. Fracapane a spus că popularitatea actuală în creștere a politicienilor de extremă dreapta din Europa de Vest face parte din același proces ca și răspândirea discursului de ură online.

Utilizări pozitive ale AI

Deși educația în legătură cu Holocaustul s-a îmbunătățit semnificativ în ultimii ani. El a spus că „linia roșie” a răspândirii negării Holocaustului și a ideilor naziste a fost distrusă. Atât online, cât și în lumea reală. „Ceea ce se află în acest raport este o manifestare a ceea ce se întâmplă în societate – duce la consecințe politice foarte reale”, a spus el.

Printre exemplele evidențiate în raportul UNESCO se numără un Joseph Goebbels generat de inteligența artificială. Care susținea că a încercat să salveze vieți evreiești. Și un deepfake al actriței Emma Watson din „Harry Potter„ care citește din „Mein Kampf„ al lui Adolf Hitler.

Cu toate acestea, raportul UNESCO a evidențiat, de asemenea, utilizări pozitive ale IA. Algoritmii ar putea clasifica și sorta mărturiile, ajutând la găsirea de noi modele și perspective noi. Iar instrumentele educaționale bazate pe inteligență artificială ar putea oferi tinerilor experiențe captivante, se arată în raportul UNESCO.

Însă Fracapane a declarat că, având în vedere starea actuală a tehnologiei. El înclină mai degrabă spre partea „AI ca amenințare„ a dezbaterii decât spre „AI ca oportunitate„, potrivit france24.