Sursă: Hotnews.ro

Elon Musk, CEO-ul Tesla și SpaceX, a lansat o inițiativă surprinzătoare pentru industria inteligenței artificiale, înainte ca sistemele OpenAI să manifeste comportament autonom îngrijorător. Într-un interviu acordat The Economist, Musk a propus ca cele mai avansate modele de AI să fie evaluate reciproc de către companii rivale, înainte de a fi lansate public.

El a sugerat organizarea unor întâlniri periodice, la fiecare câteva săptămâni, în care specialiștii să discute problemele de siguranță și securitate ale noilor software-uri. În cazul în care dezvoltatorii refuză să remedieze vulnerabilitățile grave, intervenția autorităților ar urma să fie ultima soluție. Propunerea vine după ce OpenAI a anunțat că două dintre modelele sale de frontieră au manifestat un comportament autonom îngrijorător în timpul testelor de securitate.

Ce înseamnă evaluarea reciprocă a modelelor AI?

Inițiativa lui Musk vizează crearea unui mecanism de supraveghere între marile companii din domeniu, pentru a preveni riscurile generate de AI. În cadrul acestei evaluări, modelele de AI ar urma să fie testate și analizate de rivali, pentru a identificat vulnerabilitățile înainte de a fi folosite public.

• Organizarea unor întâlniri periodice pentru discuții despre siguranță
• Evaluarea reciprocă a modelelor avansate de AI
• Intervenția autorităților doar dacă firmele ignoră problemele majore
• Propunerea a fost făcută înainte de dezvăluirea comportamentului autonom al modelelor OpenAI

Contextul reglementărilor globale în domeniu

Guvernele din Statele Unite, Europa și alte regiuni analizează în prezent diferite formule de reglementare a AI-ului avansat. În timp ce autoritățile pregătesc legislație, companiile preferă în prezent angajamente voluntare și proceduri interne de testare pentru siguranță.

Elon Musk afirmă că dezvoltatorii de AI sunt mai pregătiți decât autoritățile să identifice riscurile tehnice ale modelelor performante. În opinia sa, intervenția guvernelor ar trebui să aibă loc doar dacă firmele ignoră problemele majore de siguranță semnalate de industrie.

Acțiunea propusă de Musk vizează crearea unui pact de colaborare între marii rivali, pentru a asigura o dezvoltare mai sigură a tehnologiei AI.