Naukowiec NASK przypilnuje AI w Brukseli – 3 pytania do Sebastiana Cygerta

Gratulujemy, jesteś jednym z 60 ekspertów z całego świata powołanym do Panelu naukowego ds. wdrażania AI Act, który utworzyła Komisja Europejska. To duży sukces.

Bardzo się cieszę, że mogłem znaleźć się w gronie ekspertów zajmujących się bezpieczeństwem AI, obok takich osób jak Yoshua Bengio. To również bardzo ważne, że nasz kraj odgrywa ważną rolę w tym wyborze. Zwłaszcza, że oprócz mnie do Panelu powołano dwóch innych naukowców z Polski – prof. Katarzynę Wac oraz prof. Jakuba Growca. Możemy być dumni z poziomu i osiągnięć naszych naukowców.

Dodatkowo myślę, że Polska jako jedno z pierwszych państw, które rozwija i wdraża własne modele językowe w administracji publicznej, może wnieść do prac Panelu unikalną perspektywę i doświadczenie. Ten wybór nie jest przypadkowy.

Jednym z zadań panelu jest ocena ryzyk związanych z najbardziej zaawansowanymi modelami AI. Które zagrożenie budzi dziś największy niepokój ekspertów?

Takich zagrożeń jest bardzo wiele. Mówimy o systemach – często agentowych¹ – o rosnącej złożoności, które podejmują coraz bardziej skomplikowane decyzje. Niestety, w dużej skali i przy trudnych problemach systemy te mogą zachowywać się w sposób nieprzewidywalny, co budzi obawy dotyczące ich dalszego wdrażania.

Jednym z najistotniejszych problemów, w mojej ocenie, jest również wykorzystywanie modeli AI w działalności nielegalnej. Mam tu na myśli między innymi użycie modeli do wspierania cyberataków, szerzenie dezinformacji czy projektowania niebezpiecznych rozwiązań. Pomimo stosowanych zabezpieczeń obecne modele wciąż bywają relatywnie łatwe do wykorzystania w takich celach, a jednocześnie potrafią być w nich bardzo skuteczne. Już w 2025 roku mieliśmy do czynienia z pierwszymi masowymi cyberatakami z wykorzystaniem sztucznej inteligencji, o czym miałem okazję wspominać na podkomisji sejmowej w tym roku.

Kiedy słyszymy o zagrożeniach związanych ze sztuczną inteligencją, często myślimy o scenariuszach rodem z filmów science fiction. Jakie są faktyczne zagrożenia tu i teraz?

Oprócz wcześniej wymienionych zagrożeń warto zwrócić uwagę na te, z którymi stykamy się na co dzień, często nawet nie będąc ich w pełni świadomi.

Dobrym przykładem są media społecznościowe. Wykorzystywane w nich algorytmy – coraz częściej oparte na AI – sprzyjają rosnącemu uzależnieniu od nieustannego przewijania treści. Jest to szczególnie niebezpieczne w przypadku dzieci, ale dotyczy również dorosłych. Jednocześnie systemy te często promują treści bardziej skrajne i emocjonalne, co może prowadzić do pogłębiania polaryzacji społecznej.

Przy tak dynamicznym rozwoju AI niezwykle istotne jest, aby pamiętać, że technologia ta powinna przede wszystkim przyczyniać się do zwiększania dobrostanu społecznego, a nie wyłącznie do maksymalizacji zysków największych firm.