Projekt raportu w sprawie regulacji AI

Raport, oprócz skierowanych do Komisji rekomendacji dotyczących uregulowania kwestii odpowiedzialności za działalnie systemów AI, zawiera także konkretną propozycję rozporządzenia w powyższym zakresie. Przygotowaną przez Parlament Europejski dokumentację można zatem uznać za pewnego rodzaju przełom w działaniach prowadzonych przez organy europejskie – poprzednie opracowania przygotowywane przez Komisję Europejską, w tym opublikowane w lutym sprawozdanie dotyczące wpływu sztucznej inteligencji na wymogi bezpieczeństwa i odpowiedzialności, obejmowały w głównej mierze kwestie analityczne, bez określenia skonkretyzowanych propozycji rozwiązań prawnych w zakresie wykorzystywania sztucznej inteligencji.

Przygotowując ramy prawne w zakresie AI Komisja Prawna kierowała się dyrektywą, zgodnie z którą specyfika AI wymaga pewnych uregulowań prawnych w celu zapewnienia, że w każdym przypadku wykorzystywania systemów AI podmiot wdrażający system ma możliwość wskazania osoby odpowiedzialnej za jego działanie. Jednocześnie Komisja wskazała, że nie widzi potrzeby przeprowadzania pełnego przeglądu aktualnie obowiązujących rozwiązań prawnych w zakresie odpowiedzialności systemów AI.

W powyższym kierunku zmierza zaprojektowana przez Parlament Europejski regulacja prawna – przepisy projektu rozporządzenia wprowadzają ramy mające na celu zabezpieczenie interesów osób fizycznych i prawnych w sytuacjach, w których osoby te doznały szkody w zakresie życia, zdrowia, integralności fizycznej lub własności w związku z działaniem systemów AI, z uwzględnieniem podziału na systemy AI wysokiego ryzyka oraz inne. Przedstawiona w raporcie koncepcja regulacji opiera się zatem na założeniu, że autonomiczność systemów sztucznej inteligencji nie jest pełna – każdy system AI jest opracowany przez człowieka oraz to człowiek pełni kluczową funkcję w celu zapewnienia poprawności działania danego systemu. Projektowane przepisy wprowadzają także istotne definicje legalne, takie jak definicja autonomiczności, systemu AI (uwzględniająca ograniczoną autonomiczność), wdrażającego system AI (osoba podejmująca decyzję o wykorzystaniu AI, czerpiąca korzyści z działania AI i kontrolująca ryzyko związane z AI) czy wysokiego ryzyka (znaczny potencjał systemu AI w zakresie wyrządzania szkody osobie w sposób losowy i niemożliwy do przewidzenia z góry).

W myśl propozycji Parlamentu Europejskiego, wdrażający system AI wysokiego ryzyka będzie ponosił ścisłą odpowiedzialność za wszelkie szkody spowodowane fizyczną lub wirtualną działalnością, samym urządzeniem lub procesem napędzanym przez system AI. Wdrażający taki system nie będzie mógł uwolnić się od odpowiedzialności wskazując, że działał z należytą starannością lub szkoda została spowodowana autonomicznie przez system AI. Powinien także posiadać stosowne ubezpieczenie od szkód, które może wyrządzić AI. 

Co istotne, w załączniku do projektowanego rozporządzenia uwzględniono listę wszystkich systemów AI wysokiego ryzyka z jednoczesnym przyznaniem uprawnienia dla Komisji Europejskiej do okresowego przeglądu i dokonywania zmian w zakresie przedmiotowej listy. Obecnie na liście nie znajduje się żaden system AI działający w segmencie szeroko rozumianego rynku finansowego – lista obejmuje systemy AI działające w branży transportowej (drony, samochody autonomiczne, autonomiczne systemy zarządzania ruchem), a także autonomiczne roboty sprzątające miejsca publiczne.

Wdrażający system AI inny niż system wysokiego ryzyka określony w załączniku do projektowanego rozporządzenia będzie natomiast ponosił odpowiedzialność za szkody wyrządzone przez system AI na zasadzie winy. Nie poniesie on odpowiedzialności jeżeli udowodni, że szkoda została spowodowana bez jego winy, wskazując jedną z następujących przyczyn:

a)    system AI został aktywowany bez wiedzy wdrażającego, podczas gdy podjęto wszelkie uzasadnione i niezbędne środki w celu uniknięcia takiej aktywacji, lub

b)    wdrażający dochował należytej staranności, wybierając odpowiedni system AI dla właściwego zadania i umiejętności, odpowiednio uruchamiając system AI, monitorując działania i utrzymując niezawodność operacyjną poprzez regularne instalowanie wszystkich dostępnych aktualizacji.

Jednocześnie rozporządzenie przewiduje, iż wdrażający system AI inny niż system wysokiego ryzyka nie mógł uniknąć odpowiedzialności wskazując, że szkoda została spowodowana przez autonomiczne działanie systemu AI.

Opublikowana przez Parlament Europejski propozycja regulacji w zakresie systemów AI podlega dalszym pracom w jednostkach organów europejskich. Zgodnie z harmonogramem prac Parlamentu, kolejne debaty Komisji ds. prawnych w przedmiotowej sprawie będą miały miejsce 12 maja.

Projekt raportu dostępny jest pod linkiem. 

Jeśli uważasz, że może mieć to wpływ na Twój biznes, zapraszamy do kontaktu: biuro@krwlegal.pl lub +48 22 29 50 940.