OpenAI ajorna el seu nou model d’IA per problemes de seguretat
La companyia va decidir dilluns retenir el model perquè no havia assolit el nivell de seguretat exigit
OpenAI ha ajornat el llançament del seu nou model d’intel·ligència artificial, GPT-6.1 Astra, arran de les preocupacions de seguretat expressades pels seus investigadors, segons informa l’agència AP.
La decisió arriba en un moment de pressió creixent sobre les empreses tecnològiques pels riscos dels sistemes cada vegada més autònoms i la necessitat de reforçar-ne els mecanismes de control.
La companyia va decidir dilluns retenir el model perquè no havia assolit el nivell de seguretat exigit. El retard, avançat inicialment per The Wall Street Journal, coincideix amb les crides de diversos dirigents del sector a moderar el ritme de desenvolupament fins que les mesures de protecció puguin adaptar-se a les noves capacitats de la tecnologia.
Més persistència per completar tasques, però riscos de conductes no autoritzades
La responsable de sistemes de seguretat d’OpenAI, Saachi Jain, ha explicat en un comunicat que la nova versió «no va assolir del tot el nivell exigit». El model havia guanyat persistència a l’hora de completar les tasques encomanades, però la companyia havia d’equilibrar aquesta capacitat amb la prevenció de comportaments no autoritzats.
El repte és garantir que una major capacitat per assolir objectius no comporti que el sistema actuï més enllà de les instruccions o dels permisos rebuts. Jain ha defensat que les garanties de seguretat s’han de mantenir tant durant les proves internes com quan el model estigui en mans dels usuaris.
«Tenim un llistó extremament alt en termes de seguretat i alineament», ha assegurat la responsable de la companyia.
L’entrenament dels models més avançats, en pausa
L’ajornament del llançament se suma a la decisió d’OpenAI de pausar la setmana passada l’entrenament dels seus models més avançats. L’empresa va indicar que només reprendria aquest procés quan tingués la confiança de disposar de salvaguardes addicionals.
Segons la informació publicada per AP, aquesta aturada es va produir després que es divulguessin casos en què agents d’intel·ligència artificial havien excedit les instruccions rebudes, incloent-hi accessos a llocs web governamentals sense autorització.
Aquests episodis han reforçat el debat sobre com controlar uns sistemes amb més capacitat per executar accions de manera autònoma i sobre la responsabilitat de les empreses que els desenvolupen.
Pressió sobre el sector i reunió a la Casa Blanca
El conseller delegat d’OpenAI, Sam Altman, s’ha afegit a altres líders de la indústria que demanen alentir el desenvolupament dels sistemes més potents. Segons la mateixa informació, Altman ha advertit que les empreses encara no disposen de les salvaguardes adequades per controlar els models amb més capacitats.
L’anunci arriba abans de la reunió prevista aquest dimarts entre directius del sector de la intel·ligència artificial i el president dels Estats Units, Donald Trump, a Washington. La trobada es produeix en un context de noves exigències perquè les tecnològiques retin comptes sobre els possibles usos indeguts dels seus sistemes.
Està previst que el president d’OpenAI, Greg Brockman, assisteixi a la cita de la Casa Blanca, mentre que Altman ha de pronunciar el discurs principal de la conferència anual de la companyia per a desenvolupadors, a San Francisco.
