Ustawa zakłada utworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie sprawowała nadzór nad rynkiem AI w Polsce. Komisja będzie mogła m.in. nakładać kary administracyjne, kontrolować podmioty wykorzystujące AI czy nakazać wycofanie danego systemu AI z rynku.
Projekt ustawy o systemach sztucznej inteligencji zakłada określenie:
- organizacji oraz sposobu sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modeli AI ogólnego przeznaczenia,
- procedur dotyczących naruszeń przepisów,
- zasad akredytacji i notyfikacji jednostek oceniających zgodność,
- środków wspierających rozwój sztucznej inteligencji,
- reguły nakładania administracyjnych kar pieniężnych.
Ustawa miałaby zastosowanie do podmiotów, o których mowa w art. 2 ust. 1 unijnego AI Act, z uwzględnieniem ustawowych wyłączeń, w tym w szczególności spraw dotyczących obronności i bezpieczeństwa państwa oraz systemów wykorzystywanych wyłącznie do celów osobistych.
Ponadto, projekt ustawy podkreśla, że definicje najważniejszych pojęć takich jak: system AI, ryzyko, dostawca, podmiot stosujący, organ nadzoru rynku oraz ocena zgodności, zostaną zachowane w takiej formie, w jakiej zostały opisane w AI Act.
Ważnym elementem ustawy byłoby utworzenie krajowego organu odpowiedzialnego za nadzór nad stosowaniem przepisów dotyczących AI, którym byłaby Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Komisja miałaby zapewniać obywatelom i państwu skuteczne narzędzia mające wpływ na rozwój i wykorzystanie systemów AI.
Komisja będzie przede wszystkim nadzorować stosowanie przepisów w zakresie sztucznej inteligencji, w tym:
- prowadzić postępowania administracyjne,
- wydawać decyzje, w tym nakładać sankcje administracyjne za naruszenie przepisów,
- koordynować nadzór nad systemami sztucznej inteligencji w Polsce.
Ponadto, powyższy organ będzie zaangażowany we wspieranie konkurencyjności gospodarki oraz rozwój badań naukowych i zastosowań systemów sztucznej inteligencji.
Kolejnym obszarem działalności KRiBSI będzie wsparcie rozwoju ekosystemu sztucznej inteligencji. W tym celu Komisja będzie tworzyć i zarządzać piaskownicami regulacyjnymi, a także prowadzić działania edukacyjne i informacyjne w tym zakresie. Realizacja tych zadań ma odbywać się we współpracy z organami nadzoru rynku innych państw, instytucjami Unii Europejskiej oraz organizacjami międzynarodowymi. Dzięki temu, jednostki będą mogły testować systemy AI w sposób bezpieczny i kontrolowany, z pomocą ekspertów. Ma to na celu wsparcie start-upów, ekspertów merytorycznych, instytucji badawczych oraz innowacji w sektorze publicznym.
Podmioty będą mogły również występować do Komisji o wydanie indywidualnych, wiążących opinii prawnych, zapewniających uzyskanie pewności prawnej co do planowanych lub prowadzonych działań związanych z AI.
Warto również wskazać, że bardzo ważnym elementem działalności Komisji będzie udział w kształtowaniu polityk publicznych w obszarze AI. Komisja miałaby za zadanie opiniowanie projektów aktów prawnych oraz dokumentów rządowych, oraz wydawanie opinii indywidualnych w zakresie stosowania przepisów AI Act.
Bardzo ważnym aspektem ustawy jest też wprowadzenie mechanizmów wzmacniających prawa jednostek oraz publiczny nadzór, w tym:
- możliwość składania skarg do KRiSBI w sytuacji podejrzenia niezgodności systemów AI z przepisami,
- uprawnienie KRiBSI do nakazania zawieszenia lub wycofania systemów AI, które stwarzają bezpośrednie zagrożenie dla zdrowia, bezpieczeństwa lub praw podstawowych,
- publikacja decyzji KRiBSI oraz publicznego wykazu sankcjonowanych systemów.
Projekt zakłada również powstanie Społecznej Rady ds. Sztucznej Inteligencji, która miałaby stanowić organ doradczy w zakresie publicznego wydawania opinii mających wspierać działalność KRiSBI oraz kształtowanie polityk w obszarze AI.
Jakie są następne kroki? Projekt ustawy zostanie przekazany do rozpatrzenia przez Parlament. Jeśli projekt zostanie przyjęty i podpisany, ustawa wejdzie w życie 14 dni po ogłoszeniu, z zastrzeżeniem, że przepisy ustanawiające organ nadzoru wejdą w życie dzień po ogłoszeniu.
