Komisja Europejska publikuje podsumowanie konsultacji publicznych dotyczących białej księgi w sprawie sztucznej inteligencji (AI)

Biała księga

Przygotowany przez Komisję Europejską dokument ,,Biała księga w sprawie sztucznej inteligencji - europejskie podejście do doskonałości i zaufania’’ zawiera propozycje mające na celu zbudowanie ekosystemu prawnego i organizacyjnego, którego naczelnym zadaniem będzie wspieranie rozwoju i upowszechniania sztucznej inteligencji (AI) w gospodarce i administracji publicznej Unii Europejskiej. Dokument zawiera w szczególności propozycje środków, które będą sprzyjać współpracy z państwami członkowskimi. Ekosystem ma koncentrować się na organizacji społeczności badawczej i innowacyjnej w zakresie AI, a także na powszechnym rozwijaniu umiejętności w tej dziedzinie. Biała księga określa także warianty strategiczne dotyczące przyszłych ram regulacyjnych Unii Europejskiej, które będą obejmowały rodzaje wymogów prawnych mających zastosowanie w szczególności do przypadków wykorzystywania sztucznej inteligencji obarczonych wysokim ryzykiem.

Kwestionariusz konsultacji

Konsultacje publiczne dotyczące Białej księgi w sprawie sztucznej inteligencji były skierowane do obywateli wszystkich państw członkowskich Unii Europejskiej, samych państw członkowskich, a także wszelkich innych zainteresowanych podmiotów z sektora publicznego i prywatnego, w szczególności środowisk akademickich i przemysłowych oraz ekspertów.

Kwestionariusz konsultacji został podzielony na trzy części. Pierwsza część dotyczyła konkretnych działań zaproponowanych w rozdziale 4 Białej księgi, mających na celu stworzenie ekosystemu wspierającego rozwój i wdrażanie sztucznej inteligencji w całej gospodarce i administracji publicznej Unii Europejskiej (ekosystem doskonałości). W części drugiej uczestnicy konsultacji mogli wypowiedzieć się w sprawie szeregu wariantów ram regulacyjnych dla sztucznej inteligencji, określonych w rozdziale 5 Białej księgi (ekosystem zaufania). Trzecia część dotyczyła natomiast kwestii bezpieczeństwa i odpowiedzialności za działanie systemów AI.

Budowanie ekosystemu doskonałości AI

Większość respondentów uznała zaproponowane w Białej księdze działania w zakresie stworzenia ekosystemu doskonałości AI w krajach Unii Europejskiej jako ważne i bardzo ważne. Za najistotniejsze działania respondenci uznali działania dotyczące rozwijania umiejętności w zakresie sztucznej inteligencji poprzez dostosowane programy szkoleniowe, a także działania obejmujące wsparcie dla środowisk badawczych i innowacyjnych. Zdecydowana większość respondentów uznała ponadto, że wykorzystanie partnerstwa publiczno-prywatnego i sektora publicznego jest bardzo ważne dla szerszego stosowania sztucznej inteligencji w Europie.

Rozwiązania regulacyjne dotyczące AI (ekosystem zaufania)

W części dotyczącej ram regulacyjnych sztucznej inteligencji istotne grono respondentów wyraziło obawy dotyczące możliwości naruszenia przez sztuczną inteligencję praw podstawowych oraz wykorzystywania sztucznej inteligencji w sposób mogący prowadzić do dyskryminacji. Uczestnicy konsultacji wyrazili także obawy w zakresie możliwości stwarzania przez sztuczną inteligencję zagrożeń bezpieczeństwa publicznego oraz skutków braku obowiązku wypłacania odszkodowań za szkody spowodowane przez systemy AI.

Blisko połowa respondentów opowiedziała się za wprowadzeniem nowych ram regulacyjnych w zakresie sztucznej inteligencji – natomiast kolejne 33% respondentów uważa, że obecne przepisy wymagają modyfikacji w celu usunięcia stwierdzonych luk. Jedynie 3% respondentów uważa, że obecnie obowiązujące przepisy są w pełni wystarczające w zakresie regulacji działalności systemów AI. W kwestii zakresu nowego możliwego prawodawstwa dotyczącego AI opinie uczestników konsultacji były podzielone. Około 42% ankietowanych zgodziło się, że wprowadzenie nowych wymogów powinno dotyczyć wyłącznie przypadków zastosowania sztucznej inteligencji wysokiego ryzyka, kolejne 30% nie popiera takiego ograniczenia, natomiast pozostałe około 20% miało inne zdanie.

Elementem konsultacji publicznych były także zapisy Białej księgo dotyczące publicznego wykorzystania zdalnych systemów identyfikacji biometrycznej, opartych na technologii AI. Wielu ankietowanych przedstawiło wątpliwości co do publicznego wykorzystania takich systemów - 28% respondentów popiera zakaz korzystania ze wskazanej technologii w przestrzeni publicznej, podczas gdy kolejne blisko 30% przedstawiło oczekiwanie stworzenia specjalnych wytycznych lub przepisów prawa Unii Europejskiej, zanim takie systemy będą mogły zostać użyte w przestrzeni publicznej. Jeden na siedmiu respondentów zgodził się na dopuszczenie systemów identyfikacji biometrycznej w miejscach publicznych wyłącznie w określonych przypadkach i pod pewnymi warunkami.

Bezpieczeństwo i odpowiedzialność za systemy AI

Ostatnią część przeprowadzonych konsultacji publicznych stanowiła kwestia ram prawnych dotyczących bezpieczeństwa systemów AI oraz ponoszenia odpowiedzialności za ich działania.

Blisko 60% respondentów opowiedziało się za zmianą obowiązującej Dyrektywy w sprawie odpowiedzialności za produkty wadliwe, mającej na celu uwzględnienie szczególnych zagrożeń związanych z wykorzystywaniem systemów sztucznej inteligencji. Wśród konkretnych zagrożeń związanych ze sztuczną inteligencją, które powinny zostać uwzględnione w przepisach, ankietowani wskazali cyberzagrożenia, zagrożenia bezpieczeństwa osobistego, a także zagrożenia dla zdrowia psychicznego. Ponadto 70% uczestników konsultacji było zdania, że ramy prawne dotyczące bezpieczeństwa systemów AI powinny uregulować procedurę oceny ryzyka dla produktów wykorzystujących AI, które podlegają istotnym zmianom w trakcie ich cyklu życia.

Dalsze działania w związku z wynikami konsultacji

Przeprowadzone konsultacje publiczne są częścią szerszego procesu konsultacji z zainteresowanymi stronami, na podstawie których zostaną przygotowane różne warianty rozwiązań regulacyjnych dotyczących wykorzystywania systemów sztucznej inteligencji w Unii Europejskiej. Po zakończeniu analizy wyników konsultacji oraz szczegółowej oceny skutków projektowanych regulacji Komisja Europejska przedstawi propozycję konkretnych przepisów w powyższym zakresie.

Podsumowanie konsultacji dostępne jest pod linkiem.

Jeśli uważasz, że może mieć to wpływ na Twój biznes, zapraszamy do kontaktu: biuro@krwlegal.pl lub +48 22 29 50 940.