شراكة بين OpenAI ومعهد NASK البولندي لتعزيز سلامة الذكاء الاصطناعي وأمنه
وقّعت OpenAI ومعهد البحوث الوطني البولندي NASK اتفاقية لاستكشاف فرص التعاون في سلامة الذكاء الاصطناعي وأمنه والبحوث التقنية. ستجمع الشراكة خبرات المؤسستين لفهم المخاطر الناشئة بصورة أفضل، وتعزيز تدابير الحماية، واستكشاف سبل إسهام الذكاء الاصطناعي المتقدم في بناء منظومة رقمية أكثر أمنًا وقدرة على الصمود.
مع تنامي قدرات أنظمة الذكاء الاصطناعي، سيصبح التعاون الدولي بين المطوّرين ومؤسسات البحث العامة ضروريًا لفهم مخاطر هذه الأنظمة ووضع تدابير حماية أقوى. أسهم تعاون OpenAI القائم مع المركز الأمريكي لتطوير المعايير والابتكار في الذكاء الفائق (CAISSI)، ومعهد أمن الذكاء الاصطناعي البريطاني (AISI)، ومؤسسات البحث العامة الأخرى حول العالم، في تعزيز تدابير الحماية، واكتشاف الثغرات الأمنية في وكلاء الذكاء الاصطناعي ومعالجتها، والارتقاء بسلامة الذكاء الاصطناعي الرائد.
بموجب الاتفاقية، سيتعاون مركز بحوث سلامة الذكاء الاصطناعي التابع لمعهد NASK، الذي يضطلع بدور المعهد البولندي لسلامة الذكاء الاصطناعي (AISI)، مع OpenAI في بحوث سلامة الذكاء الاصطناعي، لاستكشاف سبل تقييم أنظمة الذكاء الاصطناعي المتنامية القدرات، ورصد الثغرات المحتملة، وتعزيز تدابير الحماية.
دعت OpenAI الولايات المتحدة إلى العمل مع دول العالم على وضع معايير تقنية دولية للذكاء الاصطناعي الرائد، بالاستفادة من خبرات معاهد سلامة الذكاء الاصطناعي وهيئات المعايير. يمكن للنهج المشتركة في تقييم القدرات والمخاطر، واختبار تدابير الحماية، والإبلاغ عن الحوادث، أن تساعد الدول على مقارنة الأدلة والتصدي للمخاطر العابرة للحدود. يعكس التعاون مع NASK أهمية توظيف الخبرات الوطنية في هذا الجهد الأوسع نطاقًا.
وتستند خبرات NASK إلى بحوث واسعة في سلامة الذكاء الاصطناعي، تُطبَّق مباشرةً لحماية الخدمات العامة ومنظومة المعلومات الرقمية في بولندا. وفي غياب شركاء وطنيين مثل NASK، قد تبقى المعايير العالمية لسلامة الذكاء الاصطناعي بعيدة عن واقع استخدامه الفعلي.
وتستند الاتفاقية أيضًا إلى تعاون OpenAI القائم مع فرق الدفاع السيبراني في بولندا. في يوليو، حصل فريق CERT Polska على إمكانية الوصول(يفتح في نافذة جديدة) إلى نماذج OpenAI ذات القدرات السيبرانية عبر Daybreak، وهو فريق يعمل ضمن NASK. استخدم الفريق نماذج OpenAI للمساعدة في اكتشاف ست ثغرات في MikroTik RouterOS، من بينها ثغرات يمكن استغلالها معًا للسيطرة على الأجهزة المتأثرة دون مصادقة. وأصدرت الشركة المطوّرة إصلاحات أكد فريق CERT Polska أنها منعت الهجمات التي رصدها.
