Nowe zagrożenia wymagają wspólnego działania. NASK i OpenAI podpisały porozumienie o współpracy w zakresie badań nad bezpieczeństwem AI. Partnerstwo połączy wiedzę i doświadczenie obu organizacji, by szybciej identyfikować zagrożenia związane z tą technologią i lepiej się przed nimi chronić. Pozwoli też skuteczniej weryfikować, jak zaawansowane metody AI mogą pomóc zwiększyć bezpieczeństwo i odporność usług cyfrowych.
Sztuczna inteligencja ma coraz większe możliwości. Twórcy technologii i publiczne instytucje badawcze z różnych krajów muszą za nimi nadążać, dlatego często łączą siły, by lepiej rozumieć ryzyko i opracowywać skuteczniejsze zabezpieczenia. Taka współpraca już przynosi efekty. Wspólne działania OpenAI z amerykańskim Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), brytyjskim AI Security Institute (AISI) i innymi publicznymi instytucjami badawczymi pomogły wykryć i usunąć luki w agentach i modelach AI. Przyczyniły się też do poprawy bezpieczeństwa najbardziej zaawansowanych modeli. Teraz do tego grona dołącza Polska.
Po stronie NASK współpracę poprowadzi Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji, który pełni funkcję polskiego Instytutu Bezpieczeństwa Sztucznej Inteligencji (AISI). Wspólnie z OpenAI będzie badać bezpieczeństwo coraz bardziej zaawansowanych systemów AI. Przeprowadzane analizy pomogą lepiej oceniać te systemy, wykrywać ich słabe punkty i wzmacniać zabezpieczenia.
– Bezpieczeństwa AI nie da się zapewnić w pojedynkę. Dlatego współpraca z OpenAI to ważny krok dla NASK i naszego Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji. Tym bardziej, że to jedyna taka umowa w Unii Europejskiej, co jest dla nas ważnym wyróżnieniem i docenieniem kompetencji naszych specjalistów – mówi dyrektor instytutu, Radosław Nielek. – Badamy nowe zagrożenia, rozwijamy zabezpieczenia i pracujemy nad wykrywaniem treści generowanych przez AI. Sprawdzamy też, jak sztuczna inteligencja może służyć do szkodliwych działań i jak te zagrożenia różnią się w zależności od języka rozmowy. Współpraca z OpenAI pozwoli nam połączyć wiedzę badawczą z doświadczeniem w rozwoju najbardziej zaawansowanych modeli. Dzięki niej będziemy mogli wcześniej rozpoznawać zagrożenia i skuteczniej im przeciwdziałać. Tak buduje się również społeczne zaufanie do AI – poprzez konkretne działania na rzecz jej bezpieczeństwa.
– Polska ma znakomitych naukowców i wyjątkowe talenty technologiczne. Mają one swój udział także w badaniach prowadzonych w OpenAI – dodaje Tom Duff Gordon, wiceprezes i szef polityki publicznej na region EMEA. – AI ma coraz większe możliwości, dlatego potrzebujemy również spojrzenia z zewnątrz. Pomaga nam ono weryfikować nasze założenia, testować systemy i wzmacniać zabezpieczenia. Dzięki porozumieniu z NASK możemy robić to wspólnie i korzystać z polskiego dorobku badawczego w międzynarodowych pracach nad bezpieczeństwem AI.
Bezpieczna AI wymaga wspólnych zasad
OpenAI zaapelowało o współpracę Stanów Zjednoczonych z innymi krajami nad międzynarodowymi standardami technicznymi dla najbardziej zaawansowanych systemów AI. W ich opracowaniu mają pomóc instytuty bezpieczeństwa AI i organizacje normalizacyjne. Wspólne zasady oceny możliwości AI, analizy ryzyka, testowania zabezpieczeń i zgłaszania incydentów ułatwią krajom porównywanie wyników i reagowanie na zagrożenia ponad granicami.
NASK wnosi do tych prac polską wiedzę z badań nad bezpieczeństwem AI, którą na co dzień wykorzystuje do ochrony usług publicznych i polskiej przestrzeni informacyjnej. Udział krajowych partnerów pomaga tworzyć standardy, które odpowiadają na konkretne zagrożenia i uwzględniają lokalne warunki korzystania z AI.
Współpraca, która już przynosi efekty
Podpisane właśnie porozumienie to kolejny etap współpracy NASK z OpenAI. W lipcu zespół CERT Polska, który działa w strukturach instytutu, otrzymał w programie Daybreak dostęp do zaawansowanych modeli OpenAI w zakresie cyberbezpieczeństwa. CERT Polska z ich pomocą wykrył sześć podatności w systemie MikroTik RouterOS. Połączenie części z nich pozwalało przejąć kontrolę nad urządzeniem bez logowania. Producent udostępnił poprawki, a zespół potwierdził, że skutecznie blokują one wykryte metody ataku.