AI weszła do firm szybciej, niż wiele organizacji zdążyło stworzyć zasady jej wykorzystania. Z raportu BGR Quantic i Microsoft wynika, że jedynie 15 proc. firm w Polsce posiada spisaną strategię AI, podczas gdy Microsoft Work Trend Index wskazuje, że nawet 79 proc. polskich użytkowników AI przynosi do pracy własne narzędzia. Ta luka między tempem adopcji technologii a budowaniem ram jej wykorzystania nabiera jeszcze większego znaczenia wraz z rozwojem agentów AI. Sztuczna inteligencja już nie tylko analizuje informacje i generuje treści, ale może również korzystać z firmowych zasobów i wykonywać działania w imieniu organizacji. Wraz z tą nową sprawczością pytanie o bezpieczeństwo wykracza poza wybór narzędzia i obejmuje tożsamość agenta, jego dostęp, zakres działania oraz odpowiedzialność za jego decyzje.
O tym wyzwaniu dyskutowali uczestnicy panelu „AI pod kontrolą. Bezpieczne wdrożenia w biznesie i administracji” podczas Cyber24 Days: Karolina Doran, Director of AI and Cybersecurity Solutions Sales w Microsoft; Jan Kozak, dyrektor Instytutu Sztucznej Inteligencji i Cyberbezpieczeństwa w Sieci Badawczej Łukasiewicz; Szymon Łukasik, dyrektor Ośrodka Badań nad Bezpieczeństwem SztucznejInteligencji w NASK – Państwowym Instytucie Badawczym; Mikołaj Mroszczak, Chief AI Officer w Centralnym Ośrodku Informatyki (COI); Dariusz Piotrowski, General Manager w Dell Technologies Poland; oraz Tomasz Trzciński, Director of R&D w IDEAS Research Institute. Dyskusję prowadził Aleksander Wicka, ekspert komunikacyjny i dziennikarz.
AI nie czeka na strategię
Transformacja AI nie zawsze zaczyna się od decyzji zarządu, strategii i oficjalnego wdrożenia. Często zaczyna się znacznie prościej: od pracownika, który chce szybciej przeanalizować dokument, przygotować prezentację albo uporządkować notatki ze spotkania. Jeśli nie ma odpowiedniego narzędzia w firmie, znajduje je sam.
Tak rodzi się Bring Your Own AI. Dla pracownika to sposób na szybsze wykonanie zadania. Dla organizacji może oznaczać utratę kontroli nad tym, gdzie i w jaki sposób przetwarzane są dane firmy.
Dlatego odpowiedzią na Shadow AI nie powinno być wyłącznie blokowanie kolejnych aplikacji. Jak wskazywała podczas Cyber24 Days Karolina Doran, organizacje potrzebują zarówno możliwości rozpoznawania skali zjawiska, jak i bezpiecznych rozwiązań odpowiadających na rzeczywiste potrzeby pracowników.
Bo potrzeba korzystania z AI już istnieje. Badanie BGR Quantic przeprowadzone na zlecenie Microsoft pokazuje, że 94,1 proc. badanych decydentów w polskich firmach korzysta z generatywnej AI, a 51,1 proc. robi to codziennie lub częściej. Wyzwaniem nie jest więc już samo wejście AI do organizacji, ale stworzenie warunków, w których jej rosnące możliwości można wykorzystywać świadomie i bezpiecznie.
Od narzędzia do cyfrowego współpracownika
Agenci AI wprowadzają do tej dyskusji nowy element: sprawczość. Na tym polega zasadnicza zmiana. Asystent AI pomaga znaleźć informację, przeanalizować dokument czy przygotować treść. Agent może pójść krok dalej: otrzymać zadanie, skorzystać z danych i aplikacji, a następnie wykonać określone działanie.
I nie jest to odległy scenariusz. Microsoft Work Trend Index pokazuje, że 84 proc. liderów biznesowych w Polsce planuje wykorzystywać agentów AI jako cyfrowych współpracowników, a 33 proc. deklaruje wykorzystanie agentów do kompleksowej automatyzacji pracy zespołów i kluczowych procesów.
Jeżeli agent ma działać w cyfrowym środowisku firmy podobnie jak człowiek, organizacja musi wiedzieć o nim to samo, co o każdym innym uczestniku tego środowiska: kim jest, po co tam jest, do czego ma dostęp i kto ponosi odpowiedzialność za jego działanie.
Dlatego każdy agent powinien mieć jednoznacznie określoną cyfrową tożsamość, właściciela i zakres uprawnień. Nie oznacza to jednak konieczności zatwierdzania przez człowieka każdej czynności. Im mniejsze ryzyko i łatwiejsze do odwrócenia skutki działania, tym większą autonomię można powierzyć agentowi. Im większe konsekwencje, tym większa powinna być kontrola.
Karolina Doran zwróciła uwagę na potrzebę objęcia agentów podobnymi zasadami zarządzania tożsamością i dostępem, jakie organizacje stosują wobec pracowników. „Tak jak każdy pracownik organizacji, również agent AI powinien mieć własną tożsamość, jasno określone zasady dostępu i wyznaczoną osobę nadzorującą” – powiedziała podczas dyskusji.
Zero Trust wchodzi do świata agentów
Wraz ze wzrostem sprawczości agenta jego uprawnienia stają się równie istotne jak zakres jego możliwości.
Tu zasady Zero Trust znajdują bardzo konkretne zastosowanie. Sam fakt, że agent działa wewnątrz organizacji, nie powinien oznaczać automatycznego zaufania ani szerokiego dostępu. Powinien otrzymywać tylko te uprawnienia, których rzeczywiście potrzebuje do wykonania określonego zadania, a jego aktywność powinna pozostawać widoczna i możliwa do prześledzenia.
Wraz ze skalą zmienia się także sposób nadzoru. Mikołaj Mroszczak z Centralnego Ośrodka Informatyki zwracał podczas panelu uwagę, że w środowisku, w którym mogą działać tysiące agentów i subagentów, nie wystarczy model kontroli znany z zarządzania kilkuosobowym zespołem. Potrzebne będą również automatyczne mechanizmy weryfikacji ich działania. To dodatkowo zwiększa znaczenie jednoznacznej tożsamości agenta, monitoringu i możliwości szybkiego ograniczenia jego uprawnień.
Celem nie jest więc ograniczenie autonomii agentów. Chodzi o stworzenie warunków, dzięki którym można bezpiecznie dać im więcej samodzielności.
Bezpieczeństwa nie można dopisać na końcu
Jednym z tematów dyskusji było miejsce bezpieczeństwa w procesie wdrażania AI. Uczestnicy panelu podkreślali, że w świecie agentów nie może ono być ostatnim etapem projektu, uruchamianym tuż przed wdrożeniem, lecz musi stanowić część jego architektury od pierwszej decyzji.
Podobny aspekt podkreślał Dariusz Piotrowski z Dell Technologies Polska, wskazując, że powodzenie projektu technologicznego zależy nie tylko od samego rozwiązania, ale także od przygotowania ludzi do zmiany sposobu pracy. Bezpieczne wdrożenie AI wymaga więc jednoczesnego spojrzenia na technologię, dane, bezpieczeństwo i kompetencje pracowników.