Logoul OpenAI, compania creatoare a ChatGPT, FOTO: Jonathan Raa / Zuma Press / Profimedia Images
„Aceasta va fi o poziție solicitantă și vei intra direct în ritmul alert”, a menționat Sam Altman, CEO-ul OpenAI, într-un mesaj public despre recrutarea unui director pentru gestionarea și anticiparea riscurilor („șef al pregătirii”), conform Gizmodo.
În schimbul unui salariu anual de 555.000 de dolari, persoana selectată va avea rolul de a extinde, întări și coordona programul de pregătire existent în cadrul Departamentului pentru Securitatea Sistemelor OpenAI.
Această divizie a organizației se ocupă cu dezvoltarea mecanismelor de protecție care, în teorie, asigură ca modelele de inteligență artificială să acționeze conform intențiilor inițiale în contexte reale.
Însă, nu toate funcțiile acestor modele sunt percepute ca fiind în perfectă conformitate cu scopurile dezvoltatorilor. Site-ul Gizmodo amintește că, în acest an, ChatGPT a continuat să prezinte erori în documente juridice, a fost subiectul a sute de plângeri către autoritățile de reglementare din SUA, și a fost acuzat de implicare în crearea de conținut nepotrivit, inclusiv imagini „deepfake” cu femei în costume de baie sau provocarea unor crize de sănătate mintală.
Sora, platforma de generare a imaginilor după comenzi text, a fost nevoită să-și limiteze capacitatea de a crea videoclipuri cu personalități, precum Martin Luther King Jr., din cauza abuzurilor din partea utilizatorilor, care foloseau această funcție pentru a manipula figurile istorice pentru orice scop.
Provocări juridice crescânde pentru OpenAI
Atunci când problemele legate de produsele OpenAI ajung în instanță, există argumente legale că utilizatorii ar fi exploatat aceste instrumente. În noiembrie, un document depus de avocații companiei a evidențiat posibile încălcări ale regulilor ChatGPT, ca și cauze ale tragicului incident în care un adolescent de 16 ani, Adam Raine, s-a sinucis după ce a folosit chatbot-ul pentru sfaturi legate de acest subiect.
Altman a confirmat într-un mesaj pe „X” că, în noua poziție de gestionare a riscurilor, modelele AI pot avea efecte nocive asupra sănătății mentale și pot expune sisteme de securitate la vulnerabilități.
"Suntem într-o lume în care este esențială o înțelegere și o gestionare mai atentă a modului în care aceste tehnologii pot fi abuzate și a modurilor în care putem limita efectele lor negative, atât în produsele noastre, cât și în societate, pentru a putea beneficia de avantajele lor semnificative", a declarat șeful OpenAI.
De ce va fi dificil noul rol pentru dezvoltatorul ChatGPT
Având în vedere aceste aspecte, compania condusă de Altman caută un candidat care să conducă strategia de pregătire a OpenAI, să evalueze modele pentru identificarea riscurilor nedorite și să conceapă soluții pentru reducerea pericolelor. Se specifică că această persoană va trebui să dezvolte un cadru de pregătire adaptat noilor riscuri, capabilități sau influențe externe emergente.
"Aceasta implică identificarea posibilităților ca produsele OpenAI să potențeze efecte adverse asupra indivizilor sau societății și elaborarea unor criterii care să asigure controlul acestor produse, precum și reducerea riscurilor, pentru ca OpenAI să nu devină responsabilă pentru eventuale efecte negative inevitabile în viitor", menționează jurnaliștii de la Gizmodo.
Noul rol devine și mai complex, având în vedere planurile OpenAI de a crește rapid veniturile și de a lansa tehnologii de ultimă generație. Într-un interviu recent, Altman a precizat intenția de a spori veniturile companiei de la circa 13 miliarde de dolari anual la 100 miliarde în următorii doi ani.
De asemenea, Altman a afirmat că „divizia de dispozitive pentru consumatori va avea un impact semnificativ” și că „inteligența artificială care automatizează știința va genera o valoare imensă”.
