AktualnośćNaukowiec NASK przypilnuje AI w Brukseli – 3 pytania do Sebastiana Cygerta
Komisja Europejska powołała dr. inż. Sebastiana Cygerta, kierownika Zakładu Bezpieczeństwa i Przejrzystości Sztucznej Inteligencji NASK do Panelu naukowego ds. wdrażania AI Act. W 60-cio osobowym gremium znaleźli się naukowcy z całego świata, w tym m.in. kanadyjski profesor Yoshua Bengio – laureat prestiżowej Nagrody Turinga. Wszystko w trosce o bezpieczny rozwój sztucznej inteligencji.
Gratulujemy, jesteś jednym z 60 ekspertów z całego świata powołanym do Panelu naukowego ds. wdrażania AI Act, który utworzyła Komisja Europejska. To duży sukces.
Bardzo się cieszę, że mogłem znaleźć się w gronie ekspertów zajmujących się bezpieczeństwem AI, obok takich osób jak Yoshua Bengio. To również bardzo ważne, że nasz kraj odgrywa ważną rolę w tym wyborze. Zwłaszcza, że oprócz mnie do Panelu powołano dwóch innych naukowców z Polski – prof. Katarzynę Wac oraz prof. Jakuba Growca. Możemy być dumni z poziomu i osiągnięć naszych naukowców.
Dodatkowo myślę, że Polska jako jedno z pierwszych państw, które rozwija i wdraża własne modele językowe w administracji publicznej, może wnieść do prac Panelu unikalną perspektywę i doświadczenie. Ten wybór nie jest przypadkowy.
Jednym z zadań panelu jest ocena ryzyk związanych z najbardziej zaawansowanymi modelami AI. Które zagrożenie budzi dziś największy niepokój ekspertów?
Takich zagrożeń jest bardzo wiele. Mówimy o systemach – często agentowych¹ – o rosnącej złożoności, które podejmują coraz bardziej skomplikowane decyzje. Niestety, w dużej skali i przy trudnych problemach systemy te mogą zachowywać się w sposób nieprzewidywalny, co budzi obawy dotyczące ich dalszego wdrażania.
Jednym z najistotniejszych problemów, w mojej ocenie, jest również wykorzystywanie modeli AI w działalności nielegalnej. Mam tu na myśli między innymi użycie modeli do wspierania cyberataków, szerzenie dezinformacji czy projektowania niebezpiecznych rozwiązań. Pomimo stosowanych zabezpieczeń obecne modele wciąż bywają relatywnie łatwe do wykorzystania w takich celach, a jednocześnie potrafią być w nich bardzo skuteczne. Już w 2025 roku mieliśmy do czynienia z pierwszymi masowymi cyberatakami z wykorzystaniem sztucznej inteligencji, o czym miałem okazję wspominać na podkomisji sejmowej w tym roku.
Kiedy słyszymy o zagrożeniach związanych ze sztuczną inteligencją, często myślimy o scenariuszach rodem z filmów science fiction. Jakie są faktyczne zagrożenia tu i teraz?
Oprócz wcześniej wymienionych zagrożeń warto zwrócić uwagę na te, z którymi stykamy się na co dzień, często nawet nie będąc ich w pełni świadomi.
Dobrym przykładem są media społecznościowe. Wykorzystywane w nich algorytmy – coraz częściej oparte na AI – sprzyjają rosnącemu uzależnieniu od nieustannego przewijania treści. Jest to szczególnie niebezpieczne w przypadku dzieci, ale dotyczy również dorosłych. Jednocześnie systemy te często promują treści bardziej skrajne i emocjonalne, co może prowadzić do pogłębiania polaryzacji społecznej.
Przy tak dynamicznym rozwoju AI niezwykle istotne jest, aby pamiętać, że technologia ta powinna przede wszystkim przyczyniać się do zwiększania dobrostanu społecznego, a nie wyłącznie do maksymalizacji zysków największych firm.
¹system agentowy – zaawansowany system sztucznej inteligencji, który potrafi działać autonomicznie. Agent AI potrafi zdefiniować cel, zaplanować kolejne kroki i samodzielnie je wykonać za pomocą dostępnych narzędzi przy minimalnym udziale człowieka.
Wyróżnione aktualności
AktualnośćPedofilia w internecie kwitnie dzięki AI. Raport Dyżurnet.pl za 2025 rok
300 proc. rok do roku. O tyle wzrosła liczba materiałów wygenerowanych przez AI, które przedstawiają seksualne wykorzystanie dzieci. Znacząco rośnie udział komunikatorów internetowych w dystrybucji CSAM. O tym mówi raport roczny z działań Dyżurnet.pl - zespołu, który w ramach NASK przyjmuje i analizuje zgłoszenia związane z treściami nielegalnymi i szkodliwymi dla dzieci i młodzieży.
AktualnośćCentrum Cyberbezpieczeństwa NASK o krok bliżej
Ultranowoczesne Centrum Cyberbezpieczeństwa NASK powstanie na warszawskiej Pradze-Północ, a w nim m.in. laboratoria do rozwoju sztucznej inteligencji czy Centrum Odzyskiwania Danych. Instytut właśnie uzyskał decyzję o pozwoleniu na budowę CCN. To już tylko jeden krok od symbolicznego “wbicia łopaty” i – co za tym idzie – wzmocnienia krajowego systemu cyberbezpieczeństwa.
AktualnośćRodzina PLLuM znowu się powiększa. Polskie AI coraz silniejsze
Co łączy pismo z urzędu, firmową bazę wiedzy, pomocnika AI w banku i aplikację, która ma odpowiedzieć użytkownikowi prostym językiem?
AktualnośćNASK na Impact’26. Technologia po właściwej stronie
– W tym roku przyjechaliśmy na Impact z wyjątkową agendą, bo zależało nam na tym, aby w atrakcyjny i angażujący sposób opowiedzieć o tym, czym zajmujemy się na co dzień. Za nami inspirujące debaty poświęcone twórcom i sztucznej inteligencji, cyberbezpieczeństwu oraz wyzwaniom, jakie niesie cyfrowy świat – podsumowywał obecność NASK na Impact’26 szef instytutu Radosław Nielek.
Najnowsze aktualności
AktualnośćDzień bez smartfona? To możliwe!
Smartfon – szczególnie wśród młodzieży – nie ma konkurencji. Według badania NASK „Nastolatki” aż 93% młodych ludzi korzysta z internetu przez telefon. To oznacza, że sieć praktycznie zawsze jest w zasięgu ich ręki. A wraz z nią źródło informacji i rozrywki. Przez telefon rezerwujemy podróże, zamawiamy taksówki, odpisujemy na maile. Budzi nas co rano, liczy nasze kroki i służy jako aparat czy kamera. Czy da się go odłożyć chociaż na jeden dzień?
AktualnośćZnamy zwycięzców pierwszej edycji DISINFOHACK
Jak misternie utkana może być sieć dezinformacji przekonali się uczestnicy konkursu Disinfohack. Przez niemal miesiąc 20 zespołów analizowało współczesne operacje dezinformacyjne, przygotowując raporty oparte na metodach wykorzystywanych przez analityków. Poznaliśmy zwycięzców konkursu – to oni przygotowali raporty, które zrobiły największe wrażenie na jury.
AktualnośćWakacyjne porządki w szafie? Uważaj na oszustów na platformach sprzedażowych
„Dzień dobry, aktualne?”, „Biorę od razu”, „Zamówiłem kuriera, proszę tylko odebrać płatność”. Tak często zaczyna się próba wyłudzenia danych od sprzedającego. Wiadomość nie musi wyglądać podejrzanie. Przeciwnie – oszustowi zależy na tym, żeby rozmowa przypominała zwykłą transakcję.