Sztuczna inteligencja w ryzach UE. Dla kogo nowe obowiązki?
2021-07-22
Unia Europejska przyspiesza działania legislacyjne dotyczące uregulowania sztucznej inteligencji. Opublikowano już (21 kwietnia br.) projekt aktu w sprawie sztucznej inteligencji, który określa m.in. nowe obowiązki dla podmiotów korzystających z systemów sztucznej inteligencji.
Sztuczna inteligencja (SI) zaczyna być wykorzystywana przez przedsiębiorców w coraz szerszym zakresie np. w celu personalizacji reklam lub kontaktu z klientami za pośrednictwem chatbotów. Rozwój sztucznej inteligencji jest pożądaną częścią unijnej strategii cyfrowej. Unia Europejska zakłada, że do 2030 roku 75 proc. przedsiębiorstw powinno korzystać z usług w chmurze, dużych zbiorów danych i sztucznej inteligencji[1]. Jednocześnie, zdecydowano się na uregulowanie kwestii systemów sztucznej inteligencji w celu zapobiegania wynikających z nich zagrożeń związanych z dyskryminacją i potencjalną nieprzewidywalnością.
Poziomy ryzyka systemów SI
Projekt przewiduje cztery poziomy ryzyka, które może wywoływać SI:
- niedopuszczalne ryzyko, które obejmuje np. systemy oceny obywateli (tzw. social scoring), a także te wykorzystujące manipulację i określone słabości osób;
- wysokie ryzyko, np. zdalna identyfikacja biometryczna „w czasie rzeczywistym”, SI przeznaczona do rekrutacji pracowników lub do oceny zdolności kredytowej osób fizycznych;
- ograniczone ryzyko np. chatboty, systemy umożliwiające rozpoznawanie emocji ludzkich oraz wykorzystujące technologię deepfake;
- minimalne ryzyko np. sztuczna inteligencja wykorzystywana w grach, filtrach spamu.
Stosowanie systemów SI powodujących niedopuszczalne ryzyko jest zakazane. Projekt nie przewiduje natomiast ograniczeń co do tych obarczonych minimalnym ryzykiem.
Jakie obowiązki czekają podmioty wykorzystujące systemy SI?
W przypadku SI powodującej ograniczone ryzyko nakłada się obowiązek informowania osób o wchodzeniu w interakcję z takimi systemami. Chodzi np. o możliwość weryfikacji czy chatbot obsługiwany jest przez sztuczną inteligencję, czy przez człowieka.
Projekt w głównej mierze skupia się jednak na wymogach i obowiązkach dla kategorii SI powodującej wysokie ryzyko. Ciężar dopełnienia obowiązków związanych z tego rodzaju sztuczną inteligencją spoczywa w szczególności na ich dostawcach, którzy będą mieli m.in. obowiązek rejestracji systemu SI w unijnej bazie danych, sporządzania jego dokumentacji technicznej, a także umieszczania w systemach SI oznakowania CE. Wprowadza się również konieczność utrzymywania rejestrów zdarzeń, które pozwolą na eliminację problemu tzw. „czarnej skrzynki”, czyli niewytłumaczalności działań podejmowanych przez sztuczną inteligencję.
Ponadto dostawcy systemów SI, według projektu rozporządzenia, będą zobowiązani do zapewniania ich zgodności m.in. z wymogami z zakresu zarządzania danymi, cyberbezpieczeństwa, przejrzystości oraz zapewniania nadzoru ze strony człowieka.
Znacznie bardziej ograniczone obowiązki nałożono na podmioty wykorzystujące systemy sztucznej inteligencji w działalności zawodowej (tj. użytkowników), a także importerów i dystrybutorów.
Użytkownicy będą mieli obowiązek użytkowania SI zgodnie z jej przeznaczeniem ustalonym przez dostawcę. W określonych przypadkach będą również odpowiedzialni za odpowiedni dobór tzw. danych wejściowych, na podstawie których sztuczna inteligencja opiera swoje działanie. Tym samym mogą oni ponosić odpowiedzialność za dyskryminacyjny charakter danych wejściowych. Oprócz tego są oni zobowiązani do monitorowania działania systemów i zgłaszania dostawcom ewentualnych nieprawidłowości.
Naruszenia powyższych obowiązków obarczono wysokimi karami finansowymi.
Sztuczna inteligencja – na ostateczną treść rozporządzenia trzeba jeszcze poczekać
Już teraz poddaje się pod dyskusję dokonane w projekcie rozdzielenie obowiązków pomiędzy poszczególne podmioty biorące udział w tworzeniu i wykorzystywaniu SI. Powstaje obawa, że tak duża odpowiedzialność nałożona na dostawców rozwiązań opartych o sztuczną inteligencję przyczyni się do zahamowania rozwoju tej gałęzi gospodarki w Unii Europejskiej.
Warto zaznaczyć, że projekt jest dopiero na etapie konsultacji i z pewnością jego kształt ulegnie jeszcze zmianom. Już teraz można jednak stwierdzić, że dostawcy narzędzi z zakresu sztucznej inteligencji powinni śledzić dalsze losy tego projektu, gdyż przewiduje on dla nich wiele całkowicie nowych obowiązków.
Artykuł został opublikowany w serwisie firma.rp.pl
