همکاری OpenAI و NASK لهستان برای پیشبرد ایمنی و امنیت هوش مصنوعی
OpenAI و مؤسسه ملی پژوهشی NASK لهستان توافق‌نامه‌ای برای بررسی زمینه‌های همکاری در ایمنی، امنیت و پژوهش‌های فنی هوش مصنوعی امضا کرده‌اند. این همکاری تخصص هر دو سازمان را در کنار هم قرار می‌دهد تا خطرات نوظهور بهتر شناخته شوند، تدابیر حفاظتی تقویت شوند و راه‌های کمک هوش مصنوعی پیشرفته به ایجاد زیست‌بوم دیجیتال امن‌تر و تاب‌آورتر بررسی شود.
با افزایش توانایی سامانه‌های هوش مصنوعی، همکاری بین‌المللی میان توسعه‌دهندگان و مؤسسات پژوهشی دولتی برای شناخت خطرات این سامانه‌ها و ایجاد تدابیر حفاظتی قوی‌تر ضروری خواهد بود. همکاری‌های کنونی OpenAI با مرکز پیشبرد استانداردها و نوآوری در ابرهوش آمریکا (CAISSI)، مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) و دیگر مؤسسات پژوهشی دولتی در سراسر جهان، تاکنون به تقویت تدابیر حفاظتی، شناسایی و رفع آسیب‌پذیری‌های امنیتی عامل‌های هوش مصنوعی و پیشبرد ایمنی هوش مصنوعی پیشرو کمک کرده است.
بر اساس این توافق‌نامه، مرکز پژوهش ایمنی هوش مصنوعی NASK — که نقش مؤسسه ایمنی هوش مصنوعی لهستان (AISI) را بر عهده دارد — و OpenAI در پژوهش‌های ایمنی هوش مصنوعی همکاری خواهند کرد. آن‌ها راه‌های ارزیابی سامانه‌های هوش مصنوعی با توانایی‌های فزاینده، شناسایی آسیب‌پذیری‌های احتمالی و تقویت تدابیر حفاظتی را بررسی خواهند کرد.
OpenAI خواستار آن شده است که آمریکا با بهره‌گیری از تخصص مؤسسات ایمنی هوش مصنوعی و نهادهای استانداردگذاری، با کشورهای جهان در زمینه استانداردهای فنی بین‌المللی هوش مصنوعی پیشرو همکاری کند. رویکردهای مشترک برای ارزیابی توانایی‌ها، سنجش خطرات، آزمایش تدابیر حفاظتی و گزارش حوادث می‌تواند به کشورها کمک کند تا شواهد را مقایسه کنند و به خطراتی که از مرزها فراتر می‌روند واکنش نشان دهند. همکاری با NASK نشان‌دهنده ارزش بهره‌گیری از تخصص ملی در این تلاش گسترده‌تر است.
تخصص NASK بر پژوهش‌های گسترده در زمینه ایمنی هوش مصنوعی استوار است؛ پژوهش‌هایی که مستقیماً برای حفاظت از خدمات عمومی و زیست‌بوم اطلاعات دیجیتال لهستان به کار گرفته می‌شوند. بدون شرکای ملی مانند NASK، استانداردهای جهانی ایمنی هوش مصنوعی ممکن است از واقعیت‌های محیطی که هوش مصنوعی عملاً در آن استفاده می‌شود، دور بمانند.
این توافق‌نامه همچنین بر پایه همکاری‌های کنونی OpenAI با مدافعان سایبری در لهستان شکل گرفته است. در ماه ژوئیه، CERT Polska که زیرمجموعه NASK است، از طریق Daybreak به مدل‌های OpenAI با توانایی‌های سایبری دسترسی پیدا کرد(در یک پنجره جدید باز می‌شود). این تیم با کمک مدل‌های OpenAI شش آسیب‌پذیری را در MikroTik RouterOS کشف کرد؛ از جمله نقص‌هایی که با بهره‌برداری ترکیبی از آن‌ها می‌شد بدون احراز هویت، کنترل دستگاه‌های آسیب‌پذیر را به دست گرفت. شرکت عرضه‌کننده اصلاحیه‌هایی منتشر کرد و CERT Polska تأیید کرد که این اصلاحیه‌ها جلوی حملاتی را که مشاهده کرده بود، می‌گیرند.
