Projekt rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji – procedura nr 2021/0106/COD)[1] ma stanowić podstawowy akt regulujący zasady wykorzystania AI w Unii Europejskiej.
Sztuczną inteligencją w rozumieniu ww. projektu jest nie tylko to, co we współczesnym dyskursie określa się tym mianem (czyli algorytmy wykorzystujące uczenie maszynowe), ale również zasadniczo każde oprogramowanie wykorzystujące wszelkiego rodzaju metody oparte na logice i wiedzy lub statystyce, które mogą generować dla osiągnięcia określonego celu wyniki (treści, przewidywania, zalecenia, decyzje).
Oznacza to, że do tego katalogu zaliczać się będą algorytmy uczenia maszynowego, wyszukiwarek internetowych, jak również programy odpowiedzialne za wyświetlanie reklam targetowanych czy podsuwające propozycje materiałów do obejrzenia dla użytkownika (jak algorytm YouTube’a).
W art. 5 ust. 1, akt w sprawie sztucznej inteligencji zabrania określonych praktyk w zakresie sztucznej inteligencji. W pewnym uproszczeniu, przepis ten zabrania wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów sztucznej inteligencji:
- w celu manipulacji określoną osobą na szkodę jej lub innej osoby przy wykorzystaniu technik podprogowych będących poza świadomością danej osoby lub poprzez wykorzystanie dowolnych słabości określonej grupy osób (art. 5 ust. 1 lit. a-b);
Projekt rozporządzenia przewiduje zakaz m. in. wykorzystywania narzędzi AI, które identyfikują osoby cierpiące na anoreksję w celu wyświetlania im reklam produktów hamujących apetyt.
- przez organy publiczne lub w ich imieniu na potrzeby oceny lub klasyfikacji wiarygodności osób fizycznych na podstawie ich zachowania lub cech, która to ocena miałaby prowadzić do krzywdzącego lub niekorzystnego traktowania tych niektórych osób lub całych grup w kontekstach społecznych, które nie są związane z kontekstami, w których pierwotnie wygenerowano lub zgromadzono dane ani które jest nieuzasadnione lub nieproporcjonalne do ich zachowania społecznego lub jego wagi (art. 5 ust. 1 lit c).
Ten dosyć skomplikowanie opisany przypadek zdaje się mieć źródło w rozwijanym w Chinach systemie zaufania społecznego[2], w ramach którego objętym nim obywatelom przyznaje się punkty (za zachowania uznane przez władze za pożądane społecznie) lub punkty się odbiera (za zachowania postrzegane jako negatywne). Liczba punktów ma bezpośrednie przełożenie na określone uprawnienia danych osób (wysoka ocena punktowa powoduje rzadsze kontrole organów państwa, tańsze kredyty, dostęp do określonych zawodów o wyższym prestiżu itp.).
Unia Europejska wyżej wymienionym przepisem zmierza do jednoznacznego zakazu podejmowania tego typu działań przez państwa członkowskie UE z wykorzystaniem AI.
Ponadto, projekt rozporządzenia zabrania wykorzystywania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów egzekwowania prawa.
Od tego zakazu przewidziane są wąsko określone wyjątki – przy czym nawet wykorzystanie takiego systemu w ramach jednego z wyjątków wymagać ma każdorazowo konkretnego zezwolenia organu sądowego lub administracyjnego.
Na gruncie rozporządzenia zabronione będzie korzystanie przez Policję z narzędzia sztucznej inteligencji, które w sposób ciągły i w czasie rzeczywistym analizuje zapis z kamer monitoringu oraz wykrywa i identyfikuje na podstawie twarzy osoby spożywające napoje alkoholowe w miejscach niedozwolonych lub automatycznie wyszukującego obecne położenie osoby, która dopuściła się takiego wykroczenia.
Rozporządzenie nakłada również obowiązek informowania o wykorzystywaniu systemów sztucznej inteligencji.
Znaczna część przepisów rozporządzenia jest poświęcona obowiązkom dostawców, importerów oraz użytkowników tzw. systemów sztucznej inteligencji wysokiego ryzyka. Zalicza się do nich systemy przeznaczone do:
- wykorzystywania jako związany z bezpieczeństwem element produktu regulowanego przez prawodawstwo unijne (czyli m. in. w zakresie produktów objętych określonymi regulacjami w zakresie bezpieczeństwa – np. zabawki, maszyny, wyroby medyczne, pojazdy silnikowe);
- identyfikacji i kategoryzacji biometrycznej osób;
- zarządzania infrastrukturą krytyczną, do podejmowania decyzji w zakresie edukacji (dostęp do instytucji i ocenianie), zatrudnienia (selekcji kandydatów do pracy, awansu, oceny wydajności);
- dostępu do usług prywatnych oraz świadczeń i usług publicznych (kwalifikacja do świadczeń i usług publicznych, ich przyznawanie, ograniczanie, unieważnianie lub żądanie zwrotu;
- oceny zdolności kredytowej;
- wysyłania lub ustalania priorytetów służb ratunkowych;
- ścigania przestępstw (ocena dowodów, prognozowanie kryminologiczne);
- zarządzania migracją, azylem i kontrolą graniczną (weryfikacja migrantów i ich dokumentów);
- sprawowania wymiaru sprawiedliwości i procesów demokratycznych (badanie i interpretacja stanu faktycznego i/lub prawnego).
Czytając przepisy projektu aktu w sprawie sztucznej inteligencji można odnieść wrażenie, że postanowienia tego aktu prawnego nie będą miały dużego znaczenia praktycznego przez wiele lat – szczególnie w odniesieniu do wyliczenia systemów sztucznej inteligencji wysokiego ryzyka, których większość w dalszym ciągu jest przedmiotem rozważań raczej twórców fantastyki naukowej i teoretyków, aniżeli rzeczywistymi problemami w przestrzeni społecznej. Adaptacja tego aktu będzie więc występującym relatywnie rzadko przykładem sytuacji, w której prawo wyprzedza rzeczywistość społeczną, zamiast powolnego jej nadganiania.
Należy jednak mieć na względzie, że już teraz powszechnie stosowane są systemy określane przez projekt rozporządzenia jako sztuczna inteligencja i mają one realny wpływ na zachowania osób korzystających z Internetu w postaci algorytmów pozycjonowania czy reklamy targetowanej.
Tym samym, przepisy aktu o sztucznej inteligencji będą miały znaczenie już w chwili jego wejścia w życie w zakresie produktów, które obecnie są już wykorzystywane, a równocześnie będą także obejmować oprogramowanie, które obecnie jeszcze nie jest dostępne albo ma marginalne znaczenie.
[1] https://eur-lex.europa.eu/legal-content/PL/HIS/?uri=CELEX:52021PC0206
[2] https://en.wikipedia.org/wiki/Social_Credit_System