Pracownik wkleja do publicznego asystenta AI fragment umowy, żeby szybciej przygotować odpowiedź dla klienta. Analityk generuje podsumowanie incydentu na podstawie logów zawierających dane użytkowników. Dział HR tworzy opis kandydata z wykorzystaniem dokumentów rekrutacyjnych. Każda z tych sytuacji może oszczędzać czas, ale jednocześnie otwiera realne zagrożenia AI w firmach: utratę kontroli nad danymi, błędne decyzje, naruszenie obowiązków prawnych i nową powierzchnię ataku.
Problem nie polega na tym, że sztuczna inteligencja sama w sobie jest niebezpieczna. Ryzyko powstaje wtedy, gdy narzędzie jest wdrażane bez zasad, właściciela procesu, oceny dostawcy i kontroli technicznych. Dla zarządu, IT oraz osób odpowiedzialnych za compliance właściwe pytanie nie brzmi więc: „czy używać AI?”, lecz: „w jakich procesach, na jakich danych i pod jakim nadzorem?”.
Gdzie powstają zagrożenia AI w firmach
Najczęstszy błąd organizacji to traktowanie narzędzi generatywnych jak zwykłych aplikacji biurowych. Tymczasem model AI przetwarza prompty, pliki, historię rozmów i instrukcje systemowe według zasad określonych przez dostawcę oraz konfigurację konta. Publiczna wersja narzędzia, konto prywatne pracownika i usługa objęta umową korporacyjną to trzy zupełnie różne poziomy kontroli.
Jeżeli pracownik przesyła do niezatwierdzonego rozwiązania dane osobowe, dokumentację techniczną, kod źródłowy, dane finansowe lub informacje o kontraktach, firma może utracić nad nimi kontrolę. Nawet gdy dostawca deklaruje, że nie wykorzystuje treści do trenowania modeli, pozostają pytania o miejsce przetwarzania, retencję danych, podwykonawców, transfery poza Europejski Obszar Gospodarczy oraz możliwość realizacji praw osób, których dane dotyczą.
Drugim ryzykiem są odpowiedzi pozornie wiarygodne. Model językowy może stworzyć nieistniejący przepis, błędnie zinterpretować umowę, przywołać fałszywe źródło albo zaproponować wadliwy fragment kodu. W obszarach takich jak kadry, księgowość, zamówienia publiczne, medycyna, obsługa klienta czy bezpieczeństwo informacji konsekwencje takiego błędu mogą być finansowe, prawne i reputacyjne. AI może wspierać analizę, lecz nie powinna samodzielnie zatwierdzać decyzji o wysokim wpływie.
Trzecia grupa ryzyk dotyczy cyberbezpieczeństwa. Narzędzia AI przyspieszają pracę obrońców, ale równie skutecznie obniżają próg wejścia dla przestępców. Wiadomości phishingowe są lepiej napisane, bardziej dopasowane językowo i łatwiejsze do skalowania. Fałszywe nagrania głosowe oraz materiały wideo zwiększają ryzyko oszustw typu CEO fraud. Atakujący mogą także próbować manipulować modelem przez prompt injection, czyli ukryte instrukcje zawarte na przykład w dokumencie, wiadomości lub stronie internetowej analizowanej przez asystenta.
Dane, odpowiedzialność i zgodność regulacyjna
W firmie nie wystarczy ogólna zasada „nie wpisuj poufnych informacji do AI”. Taka instrukcja jest zbyt nieprecyzyjna, aby pracownik mógł stosować ją w codziennej pracy. Potrzebna jest klasyfikacja danych i jasne przypisanie dopuszczalnych zastosowań do konkretnych narzędzi.
Dane publiczne, materiały marketingowe zatwierdzone do publikacji czy zanonimizowane przykłady mogą być wykorzystywane inaczej niż dane klientów, tajemnica przedsiębiorstwa, informacje objęte umową o poufności albo dane szczególnej kategorii. W wielu procesach właściwą odpowiedzią nie jest zakaz, lecz pseudonimizacja, anonimizacja lub użycie środowiska firmowego z odpowiednimi gwarancjami umownymi i technicznymi.
Z perspektywy RODO należy ustalić role stron, podstawę prawną przetwarzania, zasady powierzenia danych, okres przechowywania oraz środki bezpieczeństwa. Jeżeli AI wspiera procesy związane z oceną osób, profilowaniem, rekrutacją lub podejmowaniem decyzji wywołujących skutki prawne, analiza powinna być znacznie głębsza. Wymagany może być udział inspektora ochrony danych, działu prawnego i właściciela biznesowego procesu.
Znaczenie ma także unijne rozporządzenie AI Act. Obowiązki organizacji zależą od roli – inne ma podmiot tworzący system, inne jego dostawca, wdrażający czy użytkownik zawodowy. Nie każda firma korzystająca z czatu AI stanie się operatorem systemu wysokiego ryzyka. Każda powinna jednak rozumieć, czy jej zastosowanie wymaga przejrzystości wobec użytkownika, nadzoru człowieka, dokumentowania działania lub oceny ryzyka.
Dla podmiotów objętych NIS2, KSC albo formalnym SZBI sztuczna inteligencja powinna znaleźć się w rejestrze aktywów i procesie zarządzania ryzykiem. Jeśli narzędzie ma dostęp do poczty, dokumentów, systemu CRM, baz wiedzy lub środowiska programistycznego, jego awaria, przejęcie konta czy błędna konfiguracja może oddziaływać na ciągłość działania organizacji.
Shadow AI: ryzyko, którego nie widać w rejestrze IT
Shadow AI to używanie narzędzi sztucznej inteligencji poza wiedzą lub kontrolą działu IT i bezpieczeństwa. Zjawisko przypomina shadow IT, ale rozwija się szybciej, ponieważ wiele usług jest bezpłatnych, działa w przeglądarce i nie wymaga instalacji. Pracownik może korzystać z nich w dobrej wierze, chcąc przygotować ofertę, streścić dokument lub zautomatyzować powtarzalne zadanie.
Zakaz bez zapewnienia bezpiecznej alternatywy zwykle nie rozwiązuje problemu. Przenosi go poza oficjalne kanały, utrudnia wykrycie i pozbawia firmę możliwości edukacji. Lepiej wskazać zatwierdzone rozwiązania oraz opisać, do czego wolno ich używać. Warto również wprowadzić prostą ścieżkę zgłaszania nowych przypadków użycia. Dzięki temu biznes nie musi omijać zabezpieczeń, aby pracować szybciej.
Jak ograniczyć ryzyko bez zatrzymywania innowacji
Skuteczne wdrożenie AI zaczyna się od inwentaryzacji, a nie od zakupu kolejnej licencji. Należy ustalić, jakie narzędzia są już używane, przez jakie zespoły, na jakich danych i z jakimi integracjami. Audyt powinien obejmować także konta zakładane prywatnymi adresami oraz rozszerzenia przeglądarek, które mogą uzyskiwać dostęp do treści poczty czy dokumentów.
Następnie organizacja powinna określić akceptowalny poziom ryzyka. Inaczej ocenia się generator pomysłów do kampanii marketingowej, inaczej asystenta analizującego dokumentację klientów, a jeszcze inaczej rozwiązanie automatycznie klasyfikujące zgłoszenia lub podejmujące decyzje kadrowe. Przy procesach krytycznych trzeba ustalić obowiązkową weryfikację przez człowieka, kryteria jakości odpowiedzi oraz procedurę zatrzymania automatyzacji.
Polityka korzystania z AI powinna być krótka, konkretna i możliwa do egzekwowania. Musi wskazywać zatwierdzone narzędzia, kategorie danych zakazane w promptach, zasady weryfikacji wyników, obowiązek zgłaszania incydentów oraz właścicieli odpowiedzialnych za akceptację nowych zastosowań. Dokument bez szkolenia nie zmieni zachowań. Użytkownicy powinni zobaczyć praktyczne przykłady: dlaczego nie wolno wkleić pełnej umowy do publicznego czatu i jak bezpiecznie przygotować zanonimizowany prompt.
Kontrole techniczne są równie istotne jak procedury. W zależności od architektury mogą obejmować centralne zarządzanie tożsamością i MFA, ograniczanie dostępu według ról, rejestrowanie aktywności, kontrolę aplikacji SaaS, DLP, segmentację integracji oraz okresowy przegląd uprawnień. Jeżeli AI jest połączona z firmowymi zasobami, należy testować nie tylko sam model, lecz także konektory, tokeny API i zakres danych dostępnych dla asystenta.
AI w SOC i odpowiedzi na incydenty
Sztuczna inteligencja może zwiększyć skuteczność operacyjną bezpieczeństwa, jeśli działa w kontrolowanym procesie. W SOC pomaga korelować zdarzenia, priorytetyzować alerty, tworzyć pierwsze streszczenia incydentów i szybciej wyszukiwać istotne informacje w dużych zbiorach danych. Nie zastępuje jednak analityka odpowiedzialnego za triage, ocenę kontekstu i decyzję o eskalacji.
To rozróżnienie ma znaczenie szczególnie przy fałszywych alarmach oraz incydentach wieloetapowych. Model może błędnie ocenić intencję działania użytkownika albo przeoczyć zależność między zdarzeniami. Dlatego automatyczne reakcje, takie jak blokada konta czy odcięcie systemu, powinny mieć jasno określone progi, procedury awaryjne i ślad audytowy.
W praktyce dobre zarządzanie AI łączy bezpieczeństwo, compliance i potrzeby operacyjne. Smartech-IT wspiera organizacje w przełożeniu tych wymagań na audyt, dokumentację SZBI, szkolenia oraz monitoring, aby nowe narzędzia nie tworzyły luki między polityką a rzeczywistym sposobem pracy.
Najbezpieczniejsza firma nie jest tą, która ignoruje AI, lecz tą, która wie, gdzie AI działa, jakie dane otrzymuje, kto zatwierdza jej wyniki i jak zareagować, gdy kontrola zawiedzie. Od takiej widoczności warto rozpocząć każde wdrożenie.