OpenAI e l’istituto polacco NASK collaborano per migliorare la sicurezza e la protezione dell’IA
OpenAI e l’Istituto nazionale di ricerca polacco NASK hanno firmato un accordo per esplorare opportunità di collaborazione sulla sicurezza dell’IA, sulla protezione dei sistemi e sulla ricerca tecnica. La collaborazione unirà le competenze delle due organizzazioni per comprendere meglio i rischi emergenti, rafforzare le misure di protezione ed esplorare come l’IA avanzata possa contribuire a un ecosistema digitale più sicuro e resiliente.
Man mano che i sistemi di IA diventano più capaci, la collaborazione internazionale tra sviluppatori e istituti pubblici di ricerca sarà essenziale per comprenderne i rischi e creare misure di protezione più solide. Il lavoro già svolto da OpenAI con il Centro statunitense per la promozione degli standard e dell’innovazione per la superintelligenza (CAISSI), l’Istituto britannico per la sicurezza dell’IA (AISI) e altri istituti pubblici di ricerca nel mondo ha già contribuito a rafforzare le misure di protezione, individuare e correggere vulnerabilità di sicurezza negli agenti di IA e migliorare la sicurezza dell’IA di frontiera.
Nell’ambito dell’accordo, il Centro di ricerca sulla sicurezza dell’IA di NASK, che svolge il ruolo di Istituto polacco per la sicurezza dell’intelligenza artificiale (AISI), e OpenAI collaboreranno alla ricerca sulla sicurezza dell’IA, esplorando metodi per valutare sistemi di IA sempre più capaci, individuare potenziali vulnerabilità e rafforzare le misure di protezione.
OpenAI ha invitato gli Stati Uniti a collaborare con paesi di tutto il mondo alla definizione di standard tecnici internazionali per l’IA di frontiera, attingendo alle competenze degli istituti per la sicurezza dell’IA e degli organismi di normazione. Approcci condivisi alla valutazione delle capacità e dei rischi, alla verifica delle misure di protezione e alla segnalazione degli incidenti possono aiutare i paesi a confrontare le evidenze e a rispondere ai rischi che oltrepassano i confini nazionali. La collaborazione con NASK dimostra il valore di integrare le competenze nazionali in questo impegno più ampio.
Nel caso di NASK, queste competenze si fondano su un’ampia attività di ricerca sulla sicurezza dell’IA, applicata direttamente alla protezione dei servizi pubblici e dell’ecosistema informativo digitale polacco. Senza partner nazionali come NASK, gli standard globali per la sicurezza dell’IA rischiano di restare scollegati dai contesti in cui l’IA viene effettivamente utilizzata.
L’accordo si basa anche sul lavoro che OpenAI già svolge con chi si occupa di difesa informatica in Polonia. A luglio, CERT Polska, che opera all’interno di NASK, ha ottenuto accesso(si apre in una nuova finestra) ai modelli di OpenAI con capacità di sicurezza informatica tramite Daybreak. Il team si è avvalso dei modelli di OpenAI per individuare sei vulnerabilità in MikroTik RouterOS, tra cui falle che potevano essere combinate per assumere il controllo dei dispositivi interessati senza autenticazione. Il fornitore ha rilasciato correzioni che, come confermato da CERT Polska, impedivano gli attacchi osservati dal team.
