L’amministratore delegato di Meta Mark Zuckerberg entra nel dibattito sui possibili rischi legati agli sviluppi dell’intelligenza artificiale. “Credo che la chiave per costruire un futuro positivo per tutti sia mantenere il giusto equilibrio di potere. Abbiamo la possibilità di farlo”, scrive il fondatore di Facebook su X. “Ogni laboratorio ha la responsabilità e l’incentivo a procedere al ritmo necessario per addestrare i propri modelli in sicurezza, oltre alla possibilità di intraprendere autonomamente le azioni necessarie affinché ciò avvenga”, spiega Zuckerberg. “Le persone non vorranno utilizzare agenti che non siano allineati con loro e che non facciano ciò che chiedono, quindi i laboratori hanno un forte incentivo naturale a rendere i propri modelli più allineati”, sottolinea il numero uno di Meta. “Si discute molto della possibilità di rallentare i progressi nelle capacità dei modelli finché l’allineamento non sarà al passo. La mia opinione è che fiducia e allineamento stiano rapidamente diventando le capacità più importanti in grado di distinguere agenti e modelli. Qualsiasi laboratorio che non si concentri sull’allineamento finirà per rimanere indietro”.“Abbiamo rimandato il lancio di Muse per concentrarci sulla sicurezza”Secondo Zuckerberg, “i laboratori devono affrontare responsabilità legali significative se i loro modelli causano danni, quindi hanno un forte incentivo anche a prevenirli. Meta ha rimandato per diversi mesi il lancio di Muse per concentrarsi sulla sicurezza e sulla protezione. Non abbiamo chiesto agli altri di fare lo stesso prima di procedere noi. Lo abbiamo semplicemente fatto come parte del nostro lavoro quotidiano, perché era chiaramente la cosa giusta da fare, sia per le persone sia per noi. Sono orgoglioso delle solide basi di sicurezza che abbiamo costruito”. “Coinvolgere valutatori e consulenti indipendenti rappresenta una best practice del settore. Msl (Meta Superintelligence Labs), lo fa già oggi in diversi ambiti, perché contribuisce a produrre un lavoro migliore. Anche gli altri laboratori possono semplicemente fare lo stesso. In generale, sarebbe utile avere un ecosistema di valutatori più ampio e diversificato”, prosegue. “Destinare la maggior parte significativa delle risorse di calcolo a fornire servizi alle persone, anziché a una corsa verso il miglioramento ricorsivo delle capacità dei modelli, è uno dei modi migliori per garantire che sviluppiamo questa tecnologia in sicurezza. Meta ha assunto questo impegno e anche gli altri laboratori possono farlo”, conclude.Questo articolo AI, Zuckerberg: “Futuro positivo se si manterrà il giusto equilibrio di potere” proviene da LaPresse