Das enorme Potenzial der künstlichen Intelligenz, insbesondere der generativen KI, steht im Mittelpunkt von Wirtschafts- und Technologiekonferenzen. Der Finanzsektor wird zunehmend von den Möglichkeiten angezogen, die diese Technologie zur Automatisierung von Routineaufgaben bietet, die normalerweise von Bankfachleuten ausgeführt werden. Auf diese Weise verspricht sie, die Kapazitäten der Mitarbeiter freizusetzen, die Effizienz zu steigern und wertvolle Ressourcen freizusetzen, die für den Aufbau sinnvoller Kundenbeziehungen und die Bereitstellung fachkundiger, individueller Beratung eingesetzt werden können.
Das Aufblasen des Hype-Ballons kann leicht in die Falle unrealistischer Erwartungen führen. Der Markt ist überschwemmt mit kühnen Versprechungen an die Käufer über potenzielle Investitionsrenditen und Vorteile in Bereichen wie Prozessoptimierung, verbesserte Kundenerfahrung und erhöhte Mitarbeiterproduktivität. Gleichzeitig stehen Lösungsanbieter unter dem immensen Druck, an der Spitze des technologischen Fortschritts zu bleiben, sich mit dem stets wachsamen Wettbewerb zu messen, ihr Portfolio im Einklang mit den Best Practices des Marktes und den KI-bezogenen regulatorischen Rahmenbedingungen zu erweitern und Dienstleistungen zu erbringen, die den sich entwickelnden Bedürfnissen der immer anspruchsvolleren Kunden wirklich gerecht werden.
Obwohl es keine Anzeichen dafür gibt, dass sich die Entwicklung von KI verlangsamt, haben Entscheider in Unternehmen, die planen, KI-gestützte Tools einzuführen oder zu erweitern, immer noch viele Fragen und Bedenken, sowohl in Bezug auf praktische Anwendungen als auch auf die Wahl der richtigen Implementierungsstrategie. Im folgenden Artikel werden wir diese Fragen näher beleuchten und dabei auf die häufigsten Bedenken im Bankenkontext eingehen.
Inhaltsübersicht
- Der Übergang von "Cowboy-KI" zum Konzept der "vertrauenswürdigen KI"
- Regulatorische Herausforderungen und die Auswirkungen des EU AI Act
- Die Bedeutung von Transparenz und Rechenschaftspflicht in GenAI-Modellen
- Was ist ein "KI-Winter" - und wie kann er verhindert werden?
- Die Rolle von Metadaten und ihre Verwendung in Gesprächskontexten
Der Übergang von "Cowboy-KI" zum Konzept der "vertrauenswürdigen KI"
Stephen Brobst, Chief Technology Officer bei Ab Initio Software, bezeichnete die Phase der KI-Entwicklung - als Entwickler mit neuen KI-Tools experimentierten, ohne deren Ergebnisse vollständig zu kontrollieren - als die Ära der "Cowboy-Künstlichen Intelligenz". Der Begriff ist eine spielerische Anspielung auf die Fans der Western-Ästhetik, die eine manichäische Weltsicht von Gut gegen Böse und eine verführerische Vision von nahezu uneingeschränkter Freiheit zelebriert, wie sie in den kultigen Filmen von John Ford und Clint Eastwood berühmt geworden ist.
Laut Brobst befindet sich der Markt derzeit in einer Übergangsphase zwischen der "Cowboy-Künstlichen-Intelligenz" - angeführt von Entwicklern, die von neuen Technologien begeistert sind, ähnlich wie Revolverhelden, die die ungezähmte Landschaft des Wilden Westens erkunden - und der Ära der vertrauenswürdigen, verantwortungsvollen KI, die durch bewährte und validierte Real-Life-Implementierungen in großem Maßstab gekennzeichnet ist. Brobst betont, dass dieser Moment ein echter Wendepunkt für die Branche ist. Dies gilt nicht nur für Fallstudien, die das Potenzial der generativen KI aufzeigen, sondern für die künstliche Intelligenz als Ganzes.
Regulatorische Herausforderungen und die Auswirkungen des EU AI Act
Wenn es um Vertrauen und Verantwortung geht, reicht es nicht aus, die Technologie einfach nur zu nutzen, sondern man muss auch die damit verbundenen Risiken genau verstehen. Die Einführung neuer Vorschriften, wie z. B. des EU-Gesetzes über künstliche Intelligenz, zwingt die Banken zu noch größerer Vorsicht. Sie müssen einen verantwortungsvollen Umgang mit ihren Daten nachweisen und sowohl gegenüber den Aufsichtsbehörden als auch gegenüber ihren Kunden Transparenz wahren.
Anfang 2025 traten die ersten Bestimmungen des EU-Gesetzes über künstliche Intelligenz in Kraft. Diese wegweisende Verordnung zielt darauf ab, die öffentliche Sicherheit zu erhöhen und die Fähigkeiten von IT-Fachleuten, die mit KI-Systemen arbeiten, zu stärken. Sie schafft einen umfassenden Rahmen für die Entwicklung, den Einsatz und die Nutzung von künstlicher Intelligenz in der gesamten Europäischen Union. Angesichts der Komplexität des Gesetzes werden seine Bestimmungen schrittweise eingeführt.
Für die Tech-Branche bedeutet dies einen bedeutenden Wandel. Fachleute, die an der Implementierung von KI-gestützten Lösungen beteiligt sind, müssen nicht nur die technischen Aspekte des Einsatzes verstehen, sondern auch die umfassenderen Risiken und Verantwortlichkeiten begreifen, die mit der Verwaltung von KI einhergehen, und in jeder Phase Compliance, Rechenschaftspflicht und ethische Aufsicht sicherstellen.
Die Bedeutung von Transparenz und Rechenschaftspflicht in GenAI-Modellen
Da den Anbietern von Softwarelösungen neue Verpflichtungen auferlegt werden, stellen sich mehrere wichtige Fragen. Können wir beispielsweise erklären, woher die Daten stammen, die zur Entwicklung von KI-Tools verwendet werden? Welche Transformationen wurden auf die im Trainingssatz enthaltenen Daten angewandt? Sind die für das Training verwendeten Datensätze frei von Verzerrungen?
Als IT-Experten ist es unsere Aufgabe, diese Aspekte zu überwachen, die Einhaltung der gesetzlichen Vorschriften zu gewährleisten und vor allem unseren Kunden gegenüber rechenschaftspflichtig zu sein. Es reicht nicht aus, die Leistung der künstlichen Intelligenz nur anhand von "True Positives" (TP), "False Positives" (FP) und anderen Metriken zu messen; eine verantwortungsvolle Entwicklung erfordert ein viel tieferes Maß an Transparenz und Kontrolle.
Was ist ein "KI-Winter"?-und wie kann sie verhindert werden?
Eine der größten Herausforderungen für Unternehmen bei der Implementierung von Lösungen, die auf generativer künstlicher Intelligenz basieren, ist die Tendenz des Marktes, die Erwartungen an den zu erzielenden Wert zu überhöhen. Wie Brobst feststellt, stößt der Bankensektor häufig auf allzu optimistische Prognosen hinsichtlich der Auswirkungen von KI auf die Produktivität. Die Anbieter versprechen häufig spektakuläre Ergebnisse - eine Effizienzsteigerung von 40-50% ist möglich -, während die tatsächlichen Ergebnisse zwar immer noch ermutigend sind, aber eher im Bereich von 10-20% liegen.
Problematisch wird es, wenn übertriebene Versprechungen nicht eingehalten werden. Dies kann zu einer Enttäuschung der Kunden, einem Vertrauensverlust in die Technologie und im Extremfall zu einem so genannten "KI-Winter" führen - einer Phase der Stagnation aufgrund unerfüllter Erwartungen. Anstatt die Aussicht auf massive Gewinne in den Vordergrund zu stellen, besteht eine effektivere Strategie darin, sich auf kleine, erfolgreiche Projekte zu konzentrieren, die nach und nach greifbare Vorteile bringen. Diese Initiativen helfen dabei, den Wert der KI zu beweisen, Vertrauen in die Technologie aufzubauen und zu zeigen, dass sie mehr als nur ein Schlagwort ist.
Die Rolle von Metadaten und ihre Verwendung in Gesprächskontexten
Brobst betont jedoch, dass es sich lohnt, diese vielversprechenden Ergebnisse anzustreben und ermutigt Banken, in Pilotprojekte zu investieren. Er fügt hinzu, dass das Team von Ab Initio Pilotlösungen auf dem Markt genau prüft, einschließlich solcher, die für den internen Gebrauch in Unternehmen implementiert werden, um die Programmierproduktivität zu erhöhen und sequentiellen Code zu erzeugen. Entwickler verwenden KI-Assistenten oder andere Tools, um ihnen bei der Lösung von Problemen im Zusammenhang mit einem bestimmten Projekt zu helfen, und im Gegenzug erhalten sie eine Code-Sequenz.
Wenn Brobst von Code spricht, bezieht er sich auf Diagramme, die den Zugriff auf Daten und die Sammlung von Informationen aus verschiedenen Quellen ermöglichen, aber auch - und das ist wichtig - die Fähigkeit, mit KI zu kommunizieren, nicht nur mit Daten, sondern auch mit Metadaten.
Auf dem diesjährigen Gartner Data & Analytics Summit in Orlando betonten die Hauptredner, dass Unternehmen Metadaten in den Vordergrund stellen müssen, um fundierte, datengesteuerte Entscheidungen treffen zu können. Metadaten bieten einen wesentlichen qualitativen Kontext für Daten, indem sie die spezifischen Ressourcen beschreiben. Dies ist besonders wichtig, da Unternehmen nicht nur mit Daten, sondern auch mit Metadaten in den Dialog treten müssen.
Die Notwendigkeit, realistische Erwartungen in Bezug auf die Kapitalrendite nach der Implementierung von GenAI-Lösungen festzulegen, ist ein umfassendes und wichtiges Thema im Zusammenhang mit der Unternehmensplanung. Aus diesem Grund werden wir dieses Thema in einem separaten Artikel in dieser Serie ausführlich behandeln.
In unserem nächsten Artikel erfahren Sie mehr darüber:
- Der Wert einer evolutionären KI-Implementierung im Finanzwesen
- Die Komplexität des Übergangs vom "KI-Hype" zum "KI-Winter"
- Wie man die KI-Implementierung in einer Organisation realistisch angeht
- Warum es besser ist, sich auf eine "proof of value"-Strategie zu konzentrieren als auf einen "proof of concept".
Möchten Sie das Potenzial von GenAI in Ihrer Bank nutzen?
Mehr erfahren
