Governance democratica dell’IA di frontiera, parte II: rafforzare la difesa informatica
L’IA sta cambiando la velocità, la scala e gli equilibri economici della sicurezza informatica. Può aiutare chi si occupa di difesa informatica a individuare e correggere vulnerabilità, rilevare intrusioni e rispondere agli attacchi. Ma queste stesse capacità possono favorire gli attori malintenzionati e creare nuovi rischi quando i sistemi di IA agiscono oltre i limiti previsti. Si è aperta una finestra di opportunità per la difesa informatica: abbiamo un tempo limitato per mettere l’IA avanzata nelle mani di chi ci difende e rafforzare le protezioni prima che le capacità avanzate di attacco informatico diventino ampiamente accessibili.
Oggi pubblichiamo un piano per potenziare chi si occupa di difesa informatica, sulla base del nostro precedente piano d’azione per la sicurezza informatica e del piano per la sicurezza dell’IA di frontiera(si apre in una nuova finestra). La nostra esperienza con i casi di disallineamento e gli incidenti di sicurezza che hanno coinvolto i nostri stessi modelli evidenzia la necessità di tutele più solide e di una maggiore responsabilizzazione in tutto il settore. Sulla base di questi insegnamenti, il piano presenta proposte concrete per i governi e l’industria in tre ambiti:
Rafforzare la sicurezza e la protezione dell’IA avanzata: definire responsabilità più chiare per proteggere i modelli e gli agenti di frontiera, rilevare comportamenti pericolosi e mantenere meccanismi affidabili per arrestare le operazioni sotto il controllo di ciascuna organizzazione.
Modernizzare la sicurezza informatica per l’era dell’intelligenza: fornire a chi si occupa di difesa informatica strumenti avanzati, formazione e supporto tecnico; affrontare le debolezze persistenti della sicurezza informatica; investire nella protezione dei servizi essenziali e nella sostituzione dei sistemi obsoleti.
Costruire istituzioni pubbliche resilienti e capaci di adattarsi: rafforzare le valutazioni governative e le verifiche tecniche indipendenti, stabilire requisiti uniformi per la segnalazione degli incidenti e migliorare il coordinamento delle attività di risposta e ripristino.
I laboratori di IA hanno la responsabilità di affrontare i rischi creati dai loro sistemi e di contribuire a rafforzare le difese della società. Anche i governi devono disporre delle competenze, delle risorse e dei poteri necessari per proteggere la popolazione man mano che le capacità progrediscono. Invitiamo i responsabili politici ad agire subito: introducendo tutele, imparando dall’esperienza e rafforzando i requisiti con l’evolversi della tecnologia.
Leggi il piano completo qui(si apre in una nuova finestra).
