OpenAI i el NASK de Polònia s'alien per avançar en la seguretat i la protecció de la IA
OpenAI i l'Institut Nacional de Recerca NASK de Polònia han signat un acord per explorar vies de col·laboració en seguretat i protecció de la IA i en recerca tècnica. L'aliança combinarà els coneixements especialitzats de totes dues organitzacions per comprendre millor els riscos emergents, reforçar les mesures de protecció i explorar com la IA avançada pot contribuir a un ecosistema digital més segur i resilient.
A mesura que augmenten les capacitats dels sistemes d'IA, la col·laboració internacional entre desenvolupadors i institucions públiques de recerca serà essencial per comprendre'n els riscos i crear mesures de protecció més sòlides. La col·laboració que OpenAI ja manté amb el Centre per a l'Avenç dels Estàndards i la Innovació en Superintel·ligència dels Estats Units (CAISSI), l'Institut de Seguretat de la IA del Regne Unit (AISI) i altres institucions públiques de recerca d'arreu del món ja ha contribuït a reforçar les mesures de protecció, identificar i corregir vulnerabilitats de seguretat en agents d'IA i avançar en la seguretat de la IA d'avantguarda.
En el marc de l'acord, el Centre de Recerca en Seguretat de la IA de NASK —que exerceix d'Institut Polonès de Seguretat de la Intel·ligència Artificial (AISI)— i OpenAI col·laboraran en la recerca sobre seguretat de la IA, explorant maneres d'avaluar sistemes d'IA cada cop més capaços, identificar possibles vulnerabilitats i reforçar les mesures de protecció.
OpenAI ha demanat que els Estats Units treballin amb països d'arreu del món per establir estàndards tècnics internacionals per a la IA d'avantguarda, aprofitant els coneixements dels instituts de seguretat de la IA i dels organismes de normalització. Disposar de mètodes comuns per avaluar capacitats i riscos, posar a prova les mesures de protecció i notificar incidents pot ajudar els països a comparar evidències i respondre a riscos que traspassen fronteres. La col·laboració amb NASK reflecteix el valor d'aportar els coneixements especialitzats de cada país a aquest esforç més ampli.
En el cas de NASK, aquests coneixements es fonamenten en una àmplia recerca en seguretat de la IA, aplicada directament a la protecció dels serveis públics i de l'ecosistema d'informació digital de Polònia. Sense socis nacionals com NASK, els estàndards globals de seguretat de la IA poden quedar desvinculats de les realitats en què s'utilitza la IA.
L'acord també dona continuïtat a la col·laboració que OpenAI ja manté amb professionals de la ciberdefensa a Polònia. Al juliol, CERT Polska, que forma part de NASK, va obtenir accés(s'obre en una finestra nova) als models d'OpenAI amb capacitats de ciberseguretat a través de Daybreak. L'equip va utilitzar models d'OpenAI per ajudar a descobrir sis vulnerabilitats a MikroTik RouterOS, incloses fallades que es podien combinar per prendre el control dels dispositius afectats sense autenticació. El proveïdor va publicar correccions, i CERT Polska va confirmar que impedien els atacs que havia observat.
