OpenAI og pólska NASK sameinast um að efla öryggi og varnir gervigreindar
OpenAI og pólska ríkisrannsóknastofnunin NASK hafa undirritað samkomulag um að kanna samstarf um öryggi gervigreindar, varnir og tæknirannsóknir. Samstarfið mun sameina sérþekkingu beggja aðila til að skilja betur nýjar áhættur, efla öryggisráðstafanir og kanna hvernig háþróuð gervigreind getur stuðlað að öruggara stafrænu vistkerfi með meiri viðnámsþrótt.
Eftir því sem geta gervigreindarkerfa eykst verður alþjóðlegt samstarf þróunaraðila og opinberra rannsóknastofnana nauðsynlegt til að skilja áhættuna sem þeim fylgir og efla öryggisráðstafanir. Samstarf OpenAI við bandarísku miðstöðina um eflingu staðla og nýsköpunar á sviði ofurgreindar (CAISSI), bresku gervigreindaröryggisstofnunina (AISI) og aðrar opinberar rannsóknastofnanir um allan heim hefur þegar stuðlað að því að efla öryggisráðstafanir, finna og laga öryggisveikleika í gervigreindarfulltrúum og auka öryggi háþróaðrar gervigreindar.
Samkvæmt samkomulaginu mun rannsóknasetur NASK um öryggi gervigreindar – sem gegnir hlutverki pólsku gervigreindaröryggisstofnunarinnar (AISI) – vinna með OpenAI að rannsóknum á öryggi gervigreindar. Aðilarnir munu kanna leiðir til að meta gervigreindarkerfi með sívaxandi getu, greina hugsanlega veikleika og efla öryggisráðstafanir.
OpenAI hefur hvatt Bandaríkin til að vinna með löndum um allan heim að alþjóðlegum tæknistöðlum fyrir háþróaða gervigreind og nýta til þess sérþekkingu gervigreindaröryggisstofnana og staðlastofnana. Sameiginlegar aðferðir við að meta getu og áhættu, prófa öryggisráðstafanir og tilkynna atvik geta hjálpað löndum að bera saman gögn og bregðast við áhættu sem nær yfir landamæri. Samstarfið við NASK sýnir gildi þess að nýta sérþekkingu einstakra landa í þessu víðtækara starfi.
Hjá NASK byggist þessi sérþekking á umfangsmiklum rannsóknum á öryggi gervigreindar sem eru nýttar beint til að vernda opinbera þjónustu og stafrænt upplýsingavistkerfi Póllands. Án innlendra samstarfsaðila á borð við NASK er hætta á að alþjóðlegir staðlar um öryggi gervigreindar séu ekki í takt við þær raunverulegu aðstæður sem gervigreind er notuð við.
Samkomulagið byggir einnig á samstarfi OpenAI við netvarnaraðila í Póllandi. Í júlí fékk CERT Polska, sem starfar innan NASK, aðgang(opnast í nýjum glugga) í gegnum Daybreak að líkönum OpenAI sem geta sinnt netöryggisverkefnum. Teymið notaði líkön OpenAI til að finna sex veikleika í MikroTik RouterOS, þar á meðal galla sem hægt var að nýta saman til að ná stjórn á viðkomandi tækjum án auðkenningar. Framleiðandinn gaf út lagfæringar og CERT Polska staðfesti að þær kæmu í veg fyrir þær árásir sem teymið hafði greint.
