English
Deutsch
AI Act to nowy akt prawny UE dotyczący sztucznej inteligencji-pierwszy tego typu dokument opublikowany na świecie. Zaprezentowany 12 lipca 2024 r., jest długim dokumentem zakazującym niektórych zastosowań produktów opartych na sztucznej inteligencji, a także regulującym inne zastosowania sztucznej inteligencji. Czy nowe przepisy będą miały na Ciebie wpływ? Co musisz wiedzieć, aby zachować zgodność? Odpowiedzi znajdziesz w tym artykule!
Spis treści
- Ustawa o sztucznej inteligencji w pigułce
- Kto musi przestrzegać ustawy o sztucznej inteligencji?
- Co zmieni ustawa o sztucznej inteligencji?
- Na wynos
Ustawa o sztucznej inteligencji w pigułce
Ze względu na pojawienie się generatywnej sztucznej inteligencji, organy zarządzające na całym świecie zaczęły tworzyć przepisy chroniące obywateli przed zagrożeniami związanymi z niewłaściwym wykorzystaniem sztucznej inteligencji. Ustawa o sztucznej inteligencji jest pierwszym owocem takich wysiłków-Przygotowana przez Parlament Europejski, w pełni wchodzi w życie w maju 2026 roku. Jednak niektóre z jego postanowień muszą być przestrzegane wcześniej.
Kto musi przestrzegać ustawy o sztucznej inteligencji?
Ustawa o sztucznej inteligencji ma zastosowanie do:
- dostawców, którzy wprowadzają systemy AI do obrotu lub oddają je do użytku w UE, pomimo ich ustalonej lokalizacji,
- podmiotów wdrażających systemy sztucznej inteligencji z siedzibą lub lokalizacją w UE,
- dostawców i podmiotów wdrażających systemy sztucznej inteligencji, którzy mają miejsce prowadzenia działalności lub znajdują się poza UE, jeżeli wyniki ich systemów sztucznej inteligencji są wykorzystywane w UE,
- importerzy i dystrybutorzy systemów AI,
- producentów wprowadzających swoje produkty na rynek, jeśli produkt jest dostarczany wraz z systemem sztucznej inteligencji,
- upoważnieni przedstawiciele dostawców, którzy nie mają siedziby w UE,
- osób poszkodowanych w UE. [1]
W praktyce oznacza to, że w przypadku korzystania ze sztucznej inteligencji w bankowości w UE, na przykład dla Przetwarzanie dokumentów oparte na sztucznej inteligencjiużytkownik jest zobowiązany do przestrzegania przepisów ustawy o sztucznej inteligencji.
Co zmieni ustawa o sztucznej inteligencji?
Ustawa o sztucznej inteligencji przyniosła liczne zmiany-od zakazu niektórych produktów i praktyk związanych ze sztuczną inteligencją po regulację innych. Aby uzyskać pełne informacje, odsyłamy do pierwotna treść przepisów. Rozumiemy jednak, że jest on dość długi. Dlatego przygotowaliśmy krótki przegląd najbardziej krytycznych zmian w branży bankowej.
Ustawa o sztucznej inteligencji dzieli systemy sztucznej inteligencji w oparciu o związane z nimi ryzyko. Niektóre systemy są w ogóle zabronione, podczas gdy inne są ściśle regulowane i uznawane za "wysokiego ryzyka". Te ostatnie obejmują dwa popularne typy Sztuczna inteligencja w bankowości: scoring kredytowy i systemy oceny ryzyka. W związku z tym, jeśli chcesz je wdrożyć, musisz między innymi (zapoznać się z ustawą o sztucznej inteligencji, aby uzyskać pełne informacje):
- Ustanowienie systemu zarządzania ryzykiem w celu
- zidentyfikować i przeanalizować znane i przewidywalne zagrożenia związane z rozwiązaniami,
- oszacować i ocenić ryzyko, które może pojawić się podczas korzystania z rozwiązań,
- ocenić inne zagrożenia na podstawie danych zebranych z systemu monitorowania po wprowadzeniu do obrotu,
- przygotować i wdrożyć odpowiednie środki zapobiegawcze w celu przeciwdziałania zagrożeniom.
- Upewnij się, że modele AI przetwarzające dane są zgodne z następującymi wymaganiami:
- szkolenie, walidacja i testowanie danych podlegają odpowiednim praktykom zarządzania danymi i zarządzania nimi,
- szkolenie, walidacja i testowanie danych będą przeprowadzane na wystarczającej ilości danych, które są wolne od błędów na najwyższym możliwym poziomie i kompletne (w odniesieniu do ich celu), a jednocześnie mają odpowiednie właściwości statystyczne,
- zestawy danych, na których model(y) jest szkolony(e), będą uwzględniać elementy specyficzne dla danego ustawienia geograficznego, kontekstowego, behawioralnego lub funkcjonalnego.
- Przestrzegać dodatkowych przepisów w przypadku przetwarzania szczególnych kategorii danych osobowych.
- Należy przygotować dokumentację techniczną takich systemów przed oddaniem ich do użytku i na bieżąco ją aktualizować.
- Włącz automatyczne rejestrowanie dzienników zdarzeń, takich jak:
- identyfikacja sytuacji, w których taki system stwarza zagrożenia, o których mowa w dalszej części ustawy o sztucznej inteligencji,
- ułatwienie monitorowania po wprowadzeniu do obrotu,
- monitorowanie działania takiego systemu.
- Takie systemy muszą być przejrzyste, aby osoby wdrażające mogły łatwo interpretować ich wyniki.
- Takie systemy muszą zawierać instrukcje dotyczące ich użytkowania.
- Takie systemy muszą być nadzorowane przez ludzi, których rolą jest minimalizowanie ryzyka.
- Takie systemy muszą osiągać odpowiedni poziom dokładności.
Na wynos
Ustawa o sztucznej inteligencji to tylko pierwszy krok w kierunku regulacji sztucznej inteligencji. Z czasem powinniśmy spodziewać się dodatkowych przepisów lub zmian w istniejących. Nie oznacza to jednak, że powinieneś przestać korzystać z AI lub obawiać się wdrożenia jej w swoim banku lub rozwoju takiej technologii dla innych organizacji finansowych - to wciąż technologia przynosząca wiele korzyści!
Możesz również przeczytać: Potęga uczenia maszynowego: Możliwości i wyzwania w bankowości
Źródła:
Ustawa o sztucznej inteligencji
