OpenAI და პოლონეთის NASK AI-ის უსაფრთხოებისა და დაცულობის გასაძლიერებლად პარტნიორობენ
OpenAI-მ და პოლონეთის ეროვნულმა კვლევითმა ინსტიტუტმა NASK-მა ხელი მოაწერეს შეთანხმებას, რათა განიხილონ თანამშრომლობის შესაძლებლობები AI-ის უსაფრთხოების, დაცულობისა და ტექნიკური კვლევის მიმართულებით. პარტნიორობა ორივე ორგანიზაციის ცოდნასა და გამოცდილებას გააერთიანებს, რათა უკეთ შეისწავლონ ახალი რისკები, გააძლიერონ დაცვის მექანიზმები და გამოიკვლიონ, როგორ შეუძლია განვითარებულ AI-ს ხელი შეუწყოს უფრო დაცული და მდგრადი ციფრული ეკოსისტემის შექმნას.
AI-სისტემების შესაძლებლობების ზრდასთან ერთად, დეველოპერებსა და სახელმწიფო კვლევით ინსტიტუტებს შორის საერთაშორისო თანამშრომლობა აუცილებელი იქნება მათი რისკების გასაგებად და დაცვის უფრო ძლიერი მექანიზმების შესაქმნელად. OpenAI-ის თანამშრომლობამ აშშ-ის სუპერინტელექტის სტანდარტებისა და ინოვაციების განვითარების ცენტრთან (CAISSI), გაერთიანებული სამეფოს AI-ის უსაფრთხოების ინსტიტუტთან (AISI) და სხვა სახელმწიფო კვლევით ინსტიტუტებთან მსოფლიოს მასშტაბით უკვე შეუწყო ხელი დაცვის მექანიზმების გაძლიერებას, AI-აგენტებში უსაფრთხოების ხარვეზების გამოვლენასა და აღმოფხვრას და მოწინავე AI-ის უსაფრთხოების გაუმჯობესებას.
შეთანხმების ფარგლებში, NASK-ის AI-ის უსაფრთხოების კვლევითი ცენტრი, რომელიც პოლონეთის ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტის (AISI) ფუნქციას ასრულებს, და OpenAI ითანამშრომლებენ AI-ის უსაფრთხოების კვლევაში. ისინი შეისწავლიან სულ უფრო მძლავრი AI-სისტემების შეფასების, პოტენციური მოწყვლადობების გამოვლენისა და დაცვის მექანიზმების გაძლიერების გზებს.
OpenAI-მ აშშ-ს მოუწოდა, მსოფლიოს სხვა ქვეყნებთან ერთად იმუშაოს მოწინავე AI-ის საერთაშორისო ტექნიკურ სტანდარტებზე, AI-ის უსაფრთხოების ინსტიტუტებისა და სტანდარტიზაციის ორგანოების ცოდნასა და გამოცდილებაზე დაყრდნობით. შესაძლებლობებისა და რისკების შეფასების, დაცვის მექანიზმების გამოცდისა და ინციდენტების შესახებ ანგარიშგების ერთიანი მიდგომები ქვეყნებს დაეხმარება მტკიცებულებების შედარებასა და საზღვრებს მიღმა გავრცელებულ რისკებზე რეაგირებაში. NASK-თან თანამშრომლობა აჩვენებს, რამდენად მნიშვნელოვანია ცალკეული ქვეყნების ცოდნისა და გამოცდილების ჩართვა ამ ფართომასშტაბიან ძალისხმევაში.
NASK-ის შემთხვევაში, ეს ცოდნა და გამოცდილება AI-ის უსაფრთხოების ფართო კვლევებს ეფუძნება და უშუალოდ გამოიყენება საჯარო სერვისებისა და პოლონეთის ციფრული საინფორმაციო ეკოსისტემის დასაცავად. NASK-ის მსგავსი ეროვნული პარტნიორების გარეშე, AI-ის უსაფრთხოების გლობალური სტანდარტები შესაძლოა მოწყვეტილი დარჩეს იმ რეალობას, რომელშიც AI პრაქტიკულად გამოიყენება.
შეთანხმება ასევე ეფუძნება OpenAI-ის უკვე არსებულ თანამშრომლობას პოლონეთში კიბერდაცვის სპეციალისტებთან. ივლისში CERT Polska-მ, რომელიც NASK-ის შემადგენლობაში მუშაობს, Daybreak-ის მეშვეობით მიიღო წვდომა(იხსნება ახალ ფანჯარაში) OpenAI-ის მოდელებზე, რომლებსაც კიბერსფეროში მუშაობის შესაძლებლობები აქვს. გუნდმა OpenAI-ის მოდელების დახმარებით MikroTik RouterOS-ში ექვსი მოწყვლადობა აღმოაჩინა, მათ შორის ხარვეზები, რომელთა ერთობლივი გამოყენებითაც შესაძლებელი იყო მოწყვლად მოწყობილობებზე კონტროლის მოპოვება ავთენტიფიკაციის გარეშე. მწარმოებელმა გამოუშვა ხარვეზების გამოსასწორებელი განახლებები. CERT Polska-მ დაადასტურა, რომ ამ განახლებებმა მის მიერ გამოვლენილი შეტევები აღკვეთა.
