Rozwój sztucznej inteligencji, w tym modeli językowych, stwarza ogrom szans, jednocześnie generując olbrzymie ryzyko. AI jest wykorzystywana przez cyberprzestępców do automatyzacji ich działań czy przeprowadzania zaawansowanych ataków. W odpowiedzi na te zagrożenia powstaje Laboratorium AITAS, w którym eksperci NASK będą m.in. badać odporność modeli AI na cyberzagrożenia.
Laboratorium AITAS (AI Trustworthiness, Assurance and Safety czyli Wiarygodność, Gwarancja i Bezpieczeństwo AI) powstaje w ramach ultranowoczesnego Centrum Cyberbezpieczeństwa NASK (CCN). Budynek to inwestycja nie tylko w infrastrukturę, ale i w zwiększanie ludzkich kompetencji. To jeden z elementów projektu CCN, które ma strategiczne znaczenie, gdy mówimy o suwerenności w obszarze cyber. AITAS będzie stanowić jedną z kluczowych części tego ekosystemu, koncentrując się na cyberbezpieczeństwie rozwiązań, które wykorzystują sztuczną inteligencję.
– Cyberprzestępcy wykorzystują modele językowe do tworzenia personalizowanych wiadomości mailowych albo treści, które przypominają informacje rozsyłane przez banki czy inne instytucje – mówi Radosław Nielek, dyrektor NASK. – To sprawia, że kampanie phishingowe stają się nie dość, że coraz skuteczniejsze, jeśli chodzi o liczbę poszkodowanych, to także coraz trudniejsze do wykrycia. Laboratorium AITAS pozwoli m.in. na badanie bezpieczeństwa modeli językowych, a to oznacza lepszą ochronę cyberprzestrzeni i większe bezpieczeństwo dla naszego kraju.
Jak podkreśla dr inż. Sebastian Cygert, kierownik Zakładu Bezpieczeństwa i Przejrzystości w NASK –W ostatnich latach modele generatywnej sztucznej inteligencji osiągnęły zupełnie nowy poziom.
– Ten poziom umożliwia im wykonywanie skomplikowanych i złożonych zadań dotyczących np. analizy danych czy tworzenia treści – mówi ekspert NASK. – Ale te rosnące możliwości oznaczają też coraz większe ryzyko. Cyberprzestępcy wykorzystują modele do ataków, dezinformowania czy wspierania innych działań, które nie są zgodne z prawem.
Kluczowy zakres prac AITAS
Laboratorium AITAS będzie rozwijać metody, narzędzia i procedury służące ocenie współczesnych modeli sztucznej inteligencji pod kątem bezpieczeństwa, niezawodności i zgodności z wymaganiami regulacyjnymi. Prace zespołu ekspertów NASK będą koncentrować się między innymi na:
- opracowywaniu metodologii ewaluacji modeli AI pod kątem zagrożeń związanych z niewłaściwym użyciem,
- badaniu bezpieczeństwa modeli w kontekście cyberbezpieczeństwa,
- tworzeniu narzędzi wspierających testowanie i audyt systemów AI,
- przygotowywaniu raportów technologicznych dotyczących bezpieczeństwa oraz rozwoju sztucznej inteligencji,
- wspieraniu administracji publicznej i partnerów zewnętrznych w ocenie ryzyka związanego z wdrażaniem systemów AI.
Działania laboratorium wpisują się w rosnące międzynarodowe zainteresowanie tematyką AI Safety oraz potrzebę budowy wiarygodnych mechanizmów oceny nowoczesnych systemów sztucznej inteligencji.
Międzynarodowa współpraca
Eksperci laboratorium aktywnie uczestniczą w międzynarodowych inicjatywach dotyczących bezpieczeństwa AI. Dr inż. Sebastian Cygert został powołany do panelu naukowego EU AI Office przy Komisji Europejskiej, wspierającego rozwój regulacji oraz nadzoru nad najbardziej zaawansowanymi systemami sztucznej inteligencji.
Laboratorium rozwija również współpracę z zagranicznymi ośrodkami badawczymi, uczestniczy w międzynarodowych programach, takich jak MATS Program, oraz współpracuje z uczelniami, m.in. New York University i środowiskiem ELLIS.
Kroki milowe w rozwoju Centrum Cyberbezpieczeństwa NASK
Powstanie Laboratorium AITAS stanowi kolejny etap rozwoju Centrum Cyberbezpieczeństwa NASK, którego realizacja jest coraz bliżej. W maju instytut otrzymał pozwolenie na budowę. Decyzja to kamień milowy w projekcie CCN, która kończy fazę przygotowawczą projektu. To oznacza, że NASK przechodzi do etapu realizacji robót budowlanych.
W ramach Centrum Cyberbezpieczeństwa NASK powstają m.in.:
- Krajowe Centrum Odzyskiwania Danych (KCOD);
- Krajowe Centrum Operacyjne Cyberbezpieczeństwa (KCOC);
- Modelowy Ośrodek treningowo – szkoleniowy w obszarze Cyberbezpieczeństwa (OSC);
- Laboratorium Bezpieczeństwa AI (AITAS);
- Laboratorium Fuzzingu i Badania Złośliwego Oprogramowania (FUMAL);
- Krajowe Centrum Wsparcia Security dla JST (KCWS);
- Ośrodek Modelowania Certyfikacji Cyberbezpieczeństwa (OMCC).
– To jest ogromny projekt, ale mam na myśli nie tylko sam budynek. Centrum Cyberbezpieczeństwa NASK to choćby szkolenia dla samorządowców z cyberbezpieczeństwa czy centra odzyskiwania danych. Te laboratoria i centra już funkcjonują w ramach NASK, ale potrzebna nam większa skala. Bo trzeba mieć świadomość, że na przykład macierz dyskowa waży kilkaset kilogramów i żeby przeanalizować zawarte w niej dane, należy mieć odpowiednie możliwości i sprzęt, żeby ją przetransportować i umieścić w danym miejscu – wyjaśnia dyrektor NASK.
Centrum Cyberbezpieczeństwa NASK to gwarancja nowoczesności, stabilności, rozwoju i bezpieczeństwa – wszystko w obszarze cyber i nowych technologii.
Projekt CCN jest dofinansowany ze środków Europejskiego Funduszu Rozwoju Regionalnego oraz ze środków Budżetu Państwa w ramach Programu Fundusze Europejskie na Rozwój Cyfrowy 2021-2027.