„Lumea este în pericol”. Un cercetător părăsește industria IA, avertizând că sistemele devin supraomenești
Jacob Coxon, un expert britanic în vârstă de 27 de ani, şi-a anunţat marţi pe X plecarea de la Anthropic şi din industria inteligenţei artificiale. El consideră că nicio companie nu mai poate dezvolta aceste sisteme în mod responsabil fără intervenţia statelor, relatează Politico.
Tânărul expert şi-a anunţat decizia prin şapte mesaje publicate pe X, marţi spre sfârşitul după-amiezii. În mai puţin de două ore, acestea fuseseră deja vizualizate de două milioane de ori. Motivul se rezumă la o singură frază: „Niciuna dintre cele două companii nu acţionează în mod responsabil. Se îndreaptă cu viteză spre o superinteligenţă capabilă să se perfecţioneze singură şi să se joace cu vieţile noastre”. Cele două companii în cauză nu sunt altele decât OpenAI şi Anthropic, cei doi foşti angajatori ai săi.
Matematician de formaţie, Coxon a lucrat la antrenarea unor noi modele de inteligenţă artificială (IA) pe baza unor cantităţi imense de date. Se afla, aşadar, în inima procesului. Colegii săi folosesc acum cuvinte precum „crunchtime” (n.r. momentul decisiv) şi „endgame” (n.r. faza finală) pentru a descrie direcţia în care se îndreaptă sectorul IA, a povestit Coxon cotidianului The Wall Street Journal. „Ne îndreptăm spre cele mai extreme scenarii, în care, până la sfârşitul anului viitor, lucrurile ar putea scăpa deja de sub control”, avertizează el în interviul acordat cotidianului american. Cu atât mai mult cu cât, în viziunea sa, cursa dintre laboratoarele americane şi cele chineze face să fie inevitabile compromisurile în materie de securitate.
Pe X, tânărul merge şi mai departe. „Nu subestimaţi puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraomeneşti, capabile să pirateze orice, să revoluţioneze orice domeniu de la o zi la alta şi să dobândească putere şi resurse reale”, spune el într-un tweet. Mai rău, „oamenii care dezvoltă IA cred sincer că aceasta ne-ar putea ucide pe toţi până la sfârşitul deceniului. Nu este o strategie de marketing”, continuă avertismentul tânărului matematician. În faţa presei, liderii şi cercetătorii experimentaţi îşi aleg cu grijă cuvintele „pentru a părea rezonabili”.
Însă, în privat, asigură el, aceleaşi persoane „îşi exprimă frica”, susţine el. „Dacă cred cu adevărat asta, atunci de ce continuă să o construiască?”, se întreabă Coxon, care îşi împărtăşeşte perspectiva: „La OpenAI, mulţi nu au înţeles pe deplin mizele civilizaţionale. La Anthropic, mizele sunt bine înţelese, dar sunt angajaţi într-o cursă pentru a ajunge primii – consideră că nimeni altcineva nu va acţiona în mod responsabil, aşa că trebuie să o facă ei înşişi, în ciuda riscului”.
La începutul acestui an, Coxon a părăsit OpenAI pentru a se alătura Anthropic, tocmai datorită reputaţiei acesteia în materie de siguranţă a modelelor. Deşi consideră că eforturile Anthropic în acest domeniu sunt sincere, el estimează acum că nicio companie nu poate dezvolta în mod responsabil o inteligenţă artificială capabilă să depăşească capacităţile umane într-o serie întreagă de sarcini (n.r. ceea ce se numeşte uneori inteligenţă artificială generală sau AGI) fără intervenţia statelor sau o încetinire coordonată.
Potrivit Wall Street Journal, această plecare se numără printre primele cazuri în care un angajat al Anthropic părăseşte compania din cauza temerilor legate de siguranţa IA. Anterior, un cercetător specializat în aceste chestiuni demisionase deja pentru a se dedica studiului poeziei. Avertismentul său? „Lumea este în pericol”.
