Elon Musk, un grup de experți în inteligență artificială și directori din industrie cer o pauză de șase luni pentru dezvoltarea unor sisteme mai puternice decât recent lansatul GPT-4 de la OpenAI, într-o scrisoare deschisă în care invocă potențialele riscuri pentru societate din cauza AI.
La începutul acestei luni, OpenAI, susținută de Microsoft, a dezvăluit cea de-a patra variantă a programului său de inteligență artificială GPT (Generative Pre-trained Transformer), care a uimit utilizatorii prin faptul că i-a implicat în conversații asemănătoare cu cele umane, compunând cântece și rezumând documente lungi.
Inteligența artificială necesită reglementare
„Sistemele puternice de inteligență artificială ar trebui să fie dezvoltate doar atunci când suntem siguri că efectele lor vor fi pozitive și că riscurile lor vor fi gestionabile”, se arată în scrisoarea emisă de Future of Life Institute. Organizația non-profit este finanțată în principal de Fundația Musk, precum și de grupul londonez Founders Pledge și de Silicon Valley Community Foundation, potrivit registrului de transparență al Uniunii Europene.
„Inteligența artificială mă stresează”, a declarat Musk la începutul acestei luni. Acesta este unul dintre cofondatorii liderului industrial OpenAI, iar producția sa de automobile Tesla (TSLA.O) folosește AI pentru un sistem de pilot automat.
Musk, care și-a exprimat frustrarea față de autoritățile de reglementare a sistemului de pilot automat, a solicitat o verificare pentru a se asigura că dezvoltarea inteligenței artificiale servește interesul public. „Este profund ipocrit din partea lui Elon Musk, având în vedere cât de mult a luptat Tesla împotriva responsabilității pentru AI-ul defectuos din mașinile sale care se conduc singure. O pauză este o idee bună, dar scrisoarea este vagă și nu ia în serios problemele de reglementare. „, a declarat James Grimmelmann, profesor de drept digital și informațional la Universitatea Cornell.
Luna trecută, Tesla a fost nevoită să recheme în service peste 362.000 de vehicule din SUA pentru a actualiza software-ul după ce autoritățile de reglementare americane au declarat că sistemul de asistență pentru șoferi ar putea provoca accidente, ceea ce l-a determinat pe Musk să scrie pe Twitter faptul că un „recall” pentru o actualizare de software over-the-air este „anacronic și pur și simplu greșit!”.
Scrisoarea cu privire la inteligența artificială
OpenAI nu a răspuns imediat la solicitarea de a comenta cu privire la scrisoarea deschisă, care a îndemnat la o pauză în dezvoltarea inteligenței artificiale avansate, până când vor fi elaborate protocoale de siguranță comune experților independenți și a cerut dezvoltatorilor să colaboreze cu factorii de decizie politică în materie de guvernanță. „Ar trebui să lăsăm mașinile să ne inunde canalele de informare cu propagandă și neadevăr? Ar trebui să dezvoltăm minți non-umane care ar putea, în cele din urmă, să ne depășească numeric, să fie mai inteligente, să ne învechite și să ne înlocuiască? astfel de decizii nu trebuie delegate unor lideri tehnologici nealeși „, se afirmă în scrisoare.
Scrisoarea a fost semnată de peste 1.000 de persoane, printre care și Musk. Sam Altman, director executiv la OpenAI, Sundar Pichai și Satya Nadella, directorii executivi ai Alphabet și Microsoft, nu s-au numărat printre semnatari. Printre co-semnatari se numără Emad Mostaque, directorul executiv al Stability AI, cercetători de la DeepMind, companie deținută de Alphabet, și nume grele din domeniul inteligenței artificiale, Yoshua Bengio, numit adesea unul dintre „nașii inteligenței artificiale”, și Stuart Russell, un pionier al cercetării în acest domeniu.
Îngrijorările vin în contextul în care ChatGPT atrage atenția legislatorilor americani cu întrebări legate de impactul său asupra securității naționale și a educației. Forța de poliție a UE, Europol, a avertizat cu privire la potențiala utilizare abuzivă a sistemului în încercările de dezinformare și criminalitate informatică. Între timp, Guvernul britanic a dezvăluit propuneri pentru un cadru de reglementare „adaptabil” în materie de inteligență artificială.„Scrisoarea nu este perfectă, dar spiritul este corect: trebuie să încetinim până când vom înțelege mai bine ramificațiile. Marii jucători devin din ce în ce mai secretoși în legătură cu ceea ce fac, ceea ce face ca societății să îi fie greu să se apere împotriva oricăror prejudicii care s-ar putea materializa”, a declarat Gary Marcus, profesor la Universitatea din New York, semnatar al scrisorii.
De la lansarea sa de anul trecut, ChatGPT a determinat rivalii să accelereze dezvoltarea unor modele lingvistice similare de mari dimensiuni, iar companiile, inclusiv Alphabet Inc, se grăbesc să își îmbogățească produsele în materie de inteligență artificială. Investitorii, care se feresc să se bazeze pe o singură companie, îi îmbrățișează pe concurenții lui OpenAI. Microsoft a refuzat să comenteze scrisoarea, iar Alphabet nu a răspuns la apelurile și e-mailurile necesare pentru un comentariu.
„O mare parte din puterea de a dezvolta aceste sisteme a fost în mod constant în mâinile câtorva companii care au resursele necesare pentru a face acest lucru. Așa sunt aceste modele, sunt greu de construit și greu de democratizat „, a declarat Suresh Venkatasubramanian, profesor la Universitatea Brown și fost director adjunct în cadrul Biroului de politică științifică și tehnologică al Casei Albe, conform Reuters.
