Tego zakazali sztucznej inteligencji w AI Act. Nowe wytyczne Komisji Europejskiej

Od 2 lutego 2025 roku w życie weszły pierwsze przepisy Rozporządzenia o Sztucznej Inteligencji (AI Act), których celem jest zwiększenie bezpieczeństwa obywateli oraz podniesienie kompetencji pracowników w zakresie systemów sztucznej inteligencji.

W całej UE zacznie obowiązywać zakaz używania oraz wprowadzania na rynek szczególnie niebezpiecznych systemów AI, które spełniają kryteria praktyk zakazanych. Z tego względu określone systemy związane z tą technologią mają być niedopuszczone do stosowania.

Nowe wytyczne Komisji Europejskiej

Komisja Europejska opublikowała Wytyczne dotyczące zakazanych działań w zakresie sztucznej inteligencji. Chodzi o przegląd praktyk, które mają na celu uregulowanie i ograniczenie potencjalnie szkodliwych zastosowań AI w Unii Europejskiej.

Wytyczne te są oparte na Rozporządzeniu o sztucznej inteligencji (AI Act) i mają na celu zapewnienie, że AI jest wykorzystywana w sposób etyczny i zgodny z wartościami i prawami podstawowymi UE.

Warto nadmienić, że Komisja Europejska zatwierdziła projekt wytycznych, ale nie zostały jeszcze one formalnie przyjęte.

Kategorie zakazów i ich zastosowanie

Wytyczne opisują kategorie zakazów określonych w art. 5 AI Act oraz wskazują szczegółowy zakres stosowania zakazów, wyjaśnienia prawne oraz zawierają przykłady niedozwolonych praktyk dla poszczególnych kategorii.

Wytyczne określają listę praktyk związanych z AI, które są uważane za niedopuszczalne ze względu na wysokie ryzyko naruszenia praw podstawowych i wartości UE. Obejmuje to:

• systemy AI, które manipulują ludzkim zachowaniem lub wykorzystują słabości, aby osłabić zdolność osoby do podejmowania świadomych decyzji;
• systemy AI, które dokonują oceny społecznej (social scoring), czyli klasyfikują ludzi na podstawie ich zachowania lub cech;
• systemy AI prowadzące biometryczną identyfikację zdalną w czasie rzeczywistym w przestrzeni publicznej.

Wyłączenia od zakazów w art. 5 AI Act

Rozporządzenie 2024/1689 przewiduje także szereg ogólnych wyłączeń w odniesieniu do kategorii zakazów określonych w art. 5 AI Act.

W odniesieniu do bezpieczeństwa narodowego, obrony i celów wojskowych jako przykład wyłączenia, czyli wykorzystania AI, które będzie wyłączone z zakresu ustawy o sztucznej inteligencji, podano następującą sytuację.

Agencja bezpieczeństwa narodowego lub prywatny operator otrzymują od krajowej agencji wywiadowczej zadanie wykorzystania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym do celów bezpieczeństwa narodowego (np. w celu gromadzenia informacji wywiadowczych).

Wyłączenia zakazów będą też dotyczyć współpracy sądów i organów ścigania z państwami trzecimi oraz osobistej działalności niezawodowej. Dla przykładu system rozpoznawania emocji, jeśli ma być używany przez osoby fizyczne do osobistych, nieprofesjonalnych działań, pozostaje systemem AI wysokiego ryzyka.

Jednak podmiot, który wdraża takowy do czysto osobistego, nieprofesjonalnego użytku nie będzie objęty szczególnymi obowiązkami podmiotów wdrażających na mocy AI Act, a jego użycie będzie poza zakresem regulacji.

Opisano też sytuację zakazów w sferze badań i rozwoju. Tutaj wśród wyłączeń pisano sytuację, gdy np. w fazie badań i rozwoju (R&D) twórcy AI mają swobodę eksperymentowania i testowania nowych funkcjonalności, które mogą obejmować techniki, które mogą być postrzegane jako zakazane (jeśli są stosowane w aplikacjach skierowanych do konsumentów).

AI Act zezwala na takie eksperymenty, uznając, że wczesna faza badań i rozwoju jest niezbędna do udoskonalenia technologii AI i zapewnienia, że spełniają one standardy bezpieczeństwa i etyczne przed wprowadzeniem ich na rynek.

Kary w przypadku stosowania praktyk zakazanych

Istotną częścią dokumentu jest analiza interakcji AI Act z innymi przepisami Unii Europejskiej, w tym z regulacjami ochrony danych osobowych (RODO), przepisami o ochronie konsumentów, prawem pracy oraz regulacjami dotyczącymi odpowiedzialności cywilnej.

W dokumencie podkreślono, że zakazy zawarte w AI Act uzupełniają inne akty prawne i nie zwalniają podmiotów z obowiązku przestrzegania dodatkowych wymagań wynikających z pozostałych przepisów prawa unijnego.

Za ich nadzorowanie odpowiedzialne będą krajowe organy nadzoru rynku, a także Europejski Inspektor Ochrony Danych. W przypadku naruszenia przepisów AI Act przewidziane są surowe kary finansowe – w wysokości do 35 milionów euro lub 7% rocznego obrotu przedsiębiorstwa.

Źródło: Ministerstwo Cyfryzacji. Zdjęcie otwierające: Owlie Productions / Shutterstock

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł Tego zakazali sztucznej inteligencji w AI Act. Nowe wytyczne Komisji Europejskiej pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.