AI-Gesetz - Was ist das? Wen betrifft es? Was wird es ändern?

AI Act ist eine neue EU-Gesetzgebung zur künstlichen Intelligenz-das erste seiner Art, das weltweit veröffentlicht wird. Es handelt sich um ein langes Dokument, das am 12. Juli 2024 vorgelegt wird und bestimmte Verwendungen von KI-basierten Produkten verbietet sowie andere Verwendungen von künstlicher Intelligenz regelt. Werden Sie von den neuen Vorschriften betroffen sein? Was müssen Sie wissen, damit Sie die Vorschriften einhalten können? Finden Sie die Antworten in diesem Artikel heraus!

Inhaltsübersicht

• Das AI-Gesetz in Kürze
• Wer muss sich an das KI-Gesetz halten?
• Was wird das KI-Gesetz ändern?
• Das Mitnehmen

Das AI-Gesetz in Kürze

Aufgrund des Aufkommens der generativen KI haben Regierungsstellen auf der ganzen Welt damit begonnen, Rechtsvorschriften zum Schutz der Bürger vor den Gefahren einer unsachgemäßen Nutzung der künstlichen Intelligenz zu erlassen. Das AI-Gesetz ist das erste Ergebnis dieser Bemühungen-Sie wurde vom Europäischen Parlament ausgearbeitet und tritt im Mai 2026 vollständig in Kraft. Einige ihrer Bestimmungen müssen jedoch schon früher befolgt werden.

Wer muss sich an das KI-Gesetz halten?

Das AI-Gesetz gilt für:

• Anbieter, die KI-Systeme in der EU in Verkehr bringen oder in Betrieb nehmen, obwohl sie dort ansässig sind,
• Anbieter von KI-Systemen mit Sitz oder Niederlassung in der EU,
• Anbieter und Betreiber von KI-Systemen, die ihren Sitz oder eine Niederlassung außerhalb der EU haben, wenn der Output ihrer KI-Systeme in der EU verwendet wird,
• Importeure und Vertreiber von KI-Systemen,
• Produkthersteller, die ihre Produkte auf den Markt bringen, wenn das Produkt mit einem KI-System verbunden ist,
• bevollmächtigte Vertreter von Anbietern, die nicht in der EU ansässig sind,
• betroffenen Personen in der EU. [1]

In der Praxis bedeutet dies, dass der Einsatz von künstlicher Intelligenz im Bankensektor in der EU, z. B. für KI-unterstützte Dokumentenverarbeitungsind Sie verpflichtet, die Bestimmungen des AI-Gesetzes einzuhalten.

Was wird das KI-Gesetz ändern?

Das AI-Gesetz hat zahlreiche Änderungen mit sich gebracht-vom Verbot bestimmter KI-bezogener Produkte und Praktiken bis zur Regulierung anderer. Für vollständige Informationen verweisen wir Sie auf die ursprünglicher Inhalt der Rechtsvorschriften. Wir sind uns jedoch bewusst, dass er recht umfangreich ist. Deshalb haben wir einen kurzen Überblick über die wichtigsten Veränderungen im Bankensektor vorbereitet.

Das KI-Gesetz unterteilt KI-Systeme nach den mit ihnen verbundenen Risiken. Bestimmte Systeme sind gänzlich verboten, während andere streng reguliert sind und als "hochriskant" gelten. Zu letzteren gehören zwei beliebte Arten von KI im Bankwesen: Kreditwürdigkeitsprüfung und Risikobewertungssysteme. Wenn Sie sie also umsetzen wollen, müssen Sie unter anderem (vollständige Informationen finden Sie im KI-Gesetz):

• Einrichtung eines Risikomanagementsystems zur:

• • • bekannte und vorhersehbare Risiken in Bezug auf Ihre Lösungen zu ermitteln und zu analysieren,
    • die Risiken abzuschätzen und zu bewerten, die beim Einsatz Ihrer Lösungen auftreten können,
    • Bewertung anderer Risiken auf der Grundlage von Daten aus dem Überwachungssystem nach dem Inverkehrbringen,
    • Vorbereitung und Durchführung geeigneter Präventivmaßnahmen zur Bewältigung der Risiken.

• Stellen Sie sicher, dass Ihre datenverarbeitenden KI-Modelle die folgenden Anforderungen erfüllen:

• • • Datenschulung, -validierung und -prüfung unterliegen den einschlägigen Verfahren der Datenverwaltung und des Datenmanagements,
    • Datentraining, Validierung und Tests werden mit einer ausreichenden Menge an Daten durchgeführt, die möglichst fehlerfrei und vollständig (im Hinblick auf ihren Zweck) sind und gleichzeitig die geeigneten statistischen Eigenschaften aufweisen,
    • die Datensätze, auf denen das/die Modell(e) trainiert werden, berücksichtigen Elemente, die für ein bestimmtes geografisches, kontextuelles, verhaltensbezogenes oder funktionales Umfeld spezifisch sind.

• Bei der Verarbeitung besonderer Kategorien personenbezogener Daten sind zusätzliche Vorschriften einzuhalten.

• Erstellen Sie die technische Dokumentation dieser Systeme vor ihrer Inbetriebnahme und halten Sie diese Dokumentation auf dem neuesten Stand.

• Aktivieren Sie die automatische Aufzeichnung von Protokollen für Ereignisse wie z. B.:

• • • die Ermittlung von Situationen, in denen ein solches System Risiken birgt, die später im KI-Gesetz erwähnt werden,
    • Erleichterung der Überwachung nach dem Inverkehrbringen,
    • die Überwachung des Betriebs eines solchen Systems.

• Solche Systeme müssen transparent sein, damit die Anwender ihre Ergebnisse leicht interpretieren können.

• Es muss sichergestellt werden, dass solche Systeme eine Gebrauchsanweisung enthalten.

• Solche Systeme müssen von Menschen überwacht werden können, deren Aufgabe es ist, die Risiken zu minimieren.

• Solche Systeme müssen ein angemessenes Maß an Genauigkeit gewährleisten.

Das Mitnehmen

Das KI-Gesetz ist nur der erste Schritt zur Regulierung der künstlichen Intelligenz. Mit der Zeit sollten wir mit zusätzlichen Rechtsvorschriften oder Änderungen an den bestehenden Vorschriften rechnen. Das bedeutet jedoch nicht, dass Sie aufhören sollten, KI zu nutzen, oder sich davor fürchten sollten, sie in Ihrer Bank zu implementieren oder eine solche Technologie für andere Finanzorganisationen zu entwickeln - es handelt sich immer noch um eine Technologie mit zahlreichen Vorteilen!

Sie könnten auch lesen: Die Macht des maschinellen Lernens: Chancen und Herausforderungen im Bankwesen

Quellen:

AI-Gesetz

Ailleron

Das Marketingteam von Ailleron besteht aus digitalen Vermarktern und Inhaltserstellern, die Einblicke und Fachwissen aus dem gesamten Unternehmen zur Verfügung stellen, einschließlich #AilleronExperts. Für Medienanfragen wenden Sie sich bitte über unser Kontaktformular an uns.