Sztuczna inteligencja pod lupą organów ochrony danych osobowych

Sztuczna inteligencja, jakkolwiek wielu z nas kojarzy się z filmami z gatunku science fiction, powoli wkracza w wiele obszarów naszego życia – począwszy chociażby od systemów w smartfonach i samochodach.

Projekt unijnego rozporządzenia w sprawie sztucznej inteligencji

Tempo zmian technologicznych skłoniło Komisję Europejską do uregulowania kwestii sztucznej inteligencji na poziomie unijnym, co skutkowało publikacją 21 kwietnia, po wielomiesięcznych konsultacjach, projektu ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji).

Przy tworzeniu rozporządzenia z jednej strony brano pod uwagę potrzebę ochrony praw podstawowych uregulowanych w Karcie praw podstawowych Unii Europejskiej oraz interesów publicznych i prywatnych, z drugiej zaś ustanowiono mechanizmy pozwalające na rozwój i wdrażanie sztucznej inteligencji. Intencją Komisji było zbudowanie zaufania do systemów sztucznej inteligencji poprzez wyważenie potrzeb pomiędzy coraz częstszym jej wykorzystywaniem a ryzykiem, jakie niesie ona ze sobą dla wielu dziedzin naszego życia.

Projekt rozporządzenia określa m.in. zasady stosowania systemów sztucznej inteligencji wysokiego ryzyka, zasady stosowania systemów rozpoznawania emocji (służących do rozpoznawania albo odgadywania emocji lub zamiarów osób na podstawie danych ich biometrycznych), systemów kategoryzacji biometrycznej (służących do przypisywania osób do określonych kategorii, takich jak płeć, wiek, kolor włosów, tatuaże, pochodzenie etniczne lub orientacja seksualna bądź polityczna, na podstawie ich danych biometrycznych) oraz obowiązki dostawców i użytkowników systemów.

Dane osobowe a sztuczna inteligencja

Jedną z kwestii, które od początku budziły szczególne zainteresowanie, była ochrona danych osobowych, która jak wiemy – od czasu wejścia w życie RODO – zyskała szczególne znaczenie. Nie dziwi więc zainteresowanie europejskich organów ochroną danych osobowych sztuczną inteligencją.

Według projektu rozporządzenia:

¶ wszelkie dane osobowe przetwarzane w systemach znajdować się muszą w funkcjonalnie wyodrębnionym, kontrolowanym i chronionym środowisku, a dostęp do nich posiadać mogą wyłącznie upoważnione osoby;

¶ wprowadzono zakaz stosowania systemów wykorzystujących techniki podprogowe będące poza świadomością danej osoby w celu istotnego zniekształcenia zachowania tej osoby w sposób, który powoduje lub może powodować u niej albo u innej osoby szkodę fizyczną bądź psychiczną;

¶ wprowadzono zakaz wykorzystywania, z ściśle określonymi wyjątkami, systemów do zdalnej identyfikacji biometrycznej osób „w czasie rzeczywistym" w przestrzeni publicznej.

Systemy, o jakich mowa w ostatnim z tych punktów, to systemy do rozpoznawania danych np. twarzy, odcisków palców, DNA, głosu i innych sygnałów biometrycznych lub behawioralnych i służące do identyfikacji osób fizycznych na odległość poprzez ich porównanie z danymi zgromadzonymi w rejestrze. Działanie systemów „w czasie rzeczywistym" oznacza, że pobranie danych, porównanie i identyfikacja osoby następują niemalże natychmiast. Gdzie takie systemy mogą być wykorzystywane? Wyobraźmy sobie chociażby możliwość niemalże natychmiastowego ustalenia sprawcy przestępstwa na podstawie nagrania z kamery przesyłowej po porównaniu cech jego twarzy lub chodu z danymi w rejestrze. Z drugiej strony możliwość ustalenia tożsamości uczestników pokojowego zgromadzenia i wykorzystania tych informacji w celach politycznych. Dlatego też, oprócz pozytywnego efektu w zakresie walki z przestępczością, zastosowanie takich systemów może mieć ogromny wpływ na życie prywatne każdego z nas poprzez wywoływanie poczucia stałego nadzoru. W konsekwencji zastosowanie tychże systemów ograniczono do trzech przypadków, m.in. poszukiwania ofiar przestępstw, zapobiegania zagrożeniu życia lub bezpieczeństwa osób albo atakowi terrorystycznemu.

Rekomendacje EROD i EIOD

W związku z trwającymi konsultacjami projektu rozporządzenia 18 czerwca głos w jego sprawie zabrali Europejska Rada Ochrony Danych (EROD) i europejski inspektor ochrony danych (EIOD), wydając wspólną opinię w sprawie projektu rozporządzenia. Jakkolwiek uznano projekt rozporządzenia za dobry krok, wezwano jednocześnie do kategorycznego wprowadzenia zakazu wykorzystywania sztucznej inteligencji do automatycznego rozpoznawania cech ludzkich w przestrzeni publicznej w jakimkolwiek kontekście. Wyrażono wręcz opinię, że wdrożenie takich systemów w przestrzeni publicznej oznaczać będzie koniec anonimowości.

W opinii zalecono także wprowadzenie zakazu stosowania systemów sztucznej inteligencji wykorzystujących dane biometryczne do podziału osób na grupy ze względu na pochodzenie etniczne, płeć, poglądy polityczne lub orientację seksualną czy z innych względów, które mogą prowadzić do niesprawiedliwej dyskryminacji.

Uznano także, że wykorzystywanie systemów SI do odgadywania emocji osób powinno być zabronione, z wyjątkiem kilku ściśle określonych przypadków, takich jak niektóre cele zdrowotne, gdzie istotna jest diagnoza stanu emocjonalnego pacjenta.

Konsultacje w sprawie wniosku w zakresie projektu rozporządzenia trwają.

Treść opinii EROD i EIOD pokazuje, że zabrali oni ważny i potrzebny głos w sprawie dyskusji nad sztuczną inteligencją.