Od 2 lutego 2025 r. zaczynają obowiązywać pierwsze przepisy unijnego rozporządzenia 2024/1689, szerzej znanego jako AI Act[1]. Nowe regulacje to fundamentalny krok w kierunku odpowiedzialnego wykorzystania sztucznej inteligencji. Wprowadzają one zakaz stosowania najbardziej ryzykownych systemów AI oraz ustanawiają obowiązek podnoszenia kompetencji pracowników w zakresie sztucznej inteligencji (tzw. AI Literacy). Co to oznacza dla firm, instytucji i użytkowników AI w Unii Europejskiej? Oto najważniejsze zmiany.
Zakazane systemy AI
Zgodnie z art. 5 AI Act, w Unii Europejskiej zakazane będzie stosowanie oraz wprowadzanie do obrotu systemów AI uznanych za szczególnie niebezpieczne. Na liście znalazły się m.in.:
- systemy wykorzystujące techniki podprogowe lub manipulacyjne, które wpływają na decyzje użytkownika poza jego świadomością np. ukryte reklamy czy sugestie;
- systemy manipulujące emocjami lub psychologią użytkownika w sposób szkodliwy, mogący prowadzić do szkody np. w celu wyłudzenia danych;
- systemy tzw. scoringu społecznego, które przypisują obywatelom „punkty” lub „oceny” na podstawie ich zachowań, opinii lub interakcji w społeczeństwie;
- narzędzia prognozujące ryzyko przestępczości na podstawie profilowania lub cech osobowości;
- bazy danych wykorzystywane do rozpoznawania twarzy, które gromadzą i wykorzystują dane biometryczne bez zgody;
- systemy analizujące emocje użytkowników w miejscu pracy lub edukacji;
- systemy kategoryzacji biometrycznej, polegające na klasyfikowaniu ludzi na podstawie cech fizycznych;
- identyfikacja biometryczna w czasie rzeczywistym systemy rozpoznawania twarzy na ulicy (z wyjątkiem zwalczania poważnej przestępczości i poszukiwania osób zaginionych).
Zakaz obejmuje zarówno producentów, importerów, jak i dystrybutorów tych systemów, jeśli działają na terenie Unii Europejskiej. Naruszenie przepisów może oznaczać wysokie kary – nawet 35 milionów euro lub 7% globalnego rocznego obrotu przedsiębiorstwa.
AI Literacy – nowy obowiązek dla pracodawców
Równie istotnym wymogiem jest obowiązek zapewnienia pracownikom odpowiedniej wiedzy i umiejętności w zakresie sztucznej inteligencji. Zgodnie z art. 4 AI Act:
- pracodawcy, w tym zarówno dostawcy, jak i użytkownicy systemów AI, muszą zadbać o edukację swoich pracowników w tym zakresie oraz wskazanie ram prawnych dla korzystania ze sztucznej inteligencji przez pracowników;
- szkolenia powinny obejmować podstawy działania AI, jej wpływ na biznes oraz ryzyka związane z jej stosowaniem;
- wytyczne powinny zawierać wskazówki dot. odpowiedzialnego, bezpiecznego i zgodnego z prawem działania z systemami sztucznej inteligencji;
- celem jest zwiększenie świadomości i eliminacja potencjalnych nadużyć.
AI Act – harmonogram zmian
Kolejne przepisy będą wprowadzane stopniowo:
- 2 sierpnia 2025 r. wejdą w życie regulacje dla dostawców modeli AI ogólnego przeznaczenia, w tym obowiązek oznaczania treści generowanych przez AI, ustanowione zostaną organy nadzorujące przestrzeganie AI Act;
- 2 sierpnia 2026 r. nastąpi pełne wdrożenie AI Act – zaczną obowiązywać przepisy dotyczące systemów wysokiego ryzyka, m.in. w rekrutacji, finansach czy zarządzaniu infrastrukturą krytyczną;
- 2 sierpnia 2027 r., zostaną wdrożone ostatnie dodatkowe wymogi dla niektórych systemów wysokiego ryzyka, które wymagają czasu na dostosowanie się.
Jak przygotować firmę na nowe regulacje?
Przedsiębiorstwa wykorzystujące AI powinny już teraz podjąć działania, aby dostosować się do AI Act:
- zweryfikować swoje systemy sztucznej inteligencji i ich zgodność z nowymi przepisami;
- wdrożyć programy szkoleniowe oraz wytyczne prawne dla pracowników w zakresie AI Literacy;
- śledzić kolejne etapy wdrażania regulacji i ich wpływ na działalność.
AI Act to kluczowy krok w kierunku bezpiecznego i etycznego stosowania sztucznej inteligencji w Europie. Przedsiębiorstwa, które przygotują się już teraz, nie tylko unikną ryzyka prawnego, ale także zbudują przewagę konkurencyjną na rynku w przyszłości.
Źródła:
- https://www.gov.pl/web/cyfryzacja/wdrozenie-aktu-o-ai
- https://www.gov.pl/web/cyfryzacja/pierwsze-przepisy-rozporzadzenia-o-sztucznej-inteligencji-ai-act-zaczynaja-obowiazywac
- https://artificialintelligenceact.eu/
[1] Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji)Tekst mający znaczenie dla EOG (Dz. U. UE. L. z 2024 r. poz. 1689).
