Der Aufstieg denkender Maschinen: Bericht warnt vor Risiken von Generative AI im Finanzwesen
Im Zuge der zunehmenden Verbreitung von künstlicher Intelligenz (KI) im Finanzsektor warnt ein neuer Bericht, der auf dem Webportal der Internationalen Währungsfonds (IWF)-Publikationen veröffentlicht wurde, vor den Risiken, die mit den neuesten KI-Fähigkeiten in der Finanzwelt verbunden sind.
Der Bericht, verfasst von Ghiath Shabsigh und El Bachir Boukherouaa, konzentriert sich auf generative künstliche Intelligenz, oft auch als generative KI bezeichnet. Diese Form der KI ist in der Lage, originale Inhalte wie Text, Bilder und Videos zu erstellen. Bekannte Systeme wie Openai’s Chatgpt, Anthropic’s Claude und Midjourney haben in den letzten Monaten Popularität erlangt, indem sie diese Technologie nutzen.
Laut der Studie birgt generative KI zwar Potenzial für Anwendungen wie die Automatisierung von Prozessen und die Verbesserung des Risikomanagements, bringt aber gleichzeitig neue Risiken in Bezug auf Datenschutz, Verzerrungen, Leistungsfähigkeit und Cybersicherheit mit sich.
Die Forscher weisen darauf hin, dass generative KI-Systeme massive Mengen an Online-Daten aufnehmen und damit Bedenken hinsichtlich Datenschutzverletzungen oder der Übernahme von Verzerrungen aus diesen Daten aufkommen lassen. Darüber hinaus könnten die Systeme in der Lage sein, völlig neue Inhalte zu generieren, die plausibel, aber dennoch ungenau sind. Der Bericht besagt:
“Öffentlich verfügbare [generative KI]-Systeme stellen erhebliche Datenschutzprobleme für Finanzinstitute dar, die ihre Fähigkeiten in ihre Geschäftstätigkeit einbinden möchten. Durch diese Automatisierung besteht die Möglichkeit, dass sensible finanzielle Daten und persönliche Informationen, die vom Personal der Finanzinstitute während der Interaktion mit der [generative KI] bereitgestellt werden, nach außen dringen können.”
Der Bericht warnt davor, dass diese Probleme das öffentliche Vertrauen untergraben könnten, wenn generative KI im Finanzwesen unverantwortlich eingesetzt wird. Beispielsweise könnten KI-generierte Kundenrisikoprofile sowohl ungenau als auch diskriminierend sein. Die Forscher bestehen darauf, dass populäre Chatbots fehlerhafte Finanzberatung bieten könnten.
Im August 2023 warnte Gary Gensler, der aktuelle Vorsitzende der US-amerikanischen Börsenaufsichtsbehörde Securities and Exchange Commission (SEC), vor der Bedeutung von KI-Technologie für zukünftige Finanzkrisen. Die Wertpapieraufsichtsbehörde schlug vor, einige Risiken von KI-Modellen anzugehen. Inzwischen hat die SEC kürzlich einen neuen KI-gesteuerten Order-Typ für Nasdaq genehmigt und damit die erste solche Genehmigung für eine traditionelle Finanzbörse (tradfi) erteilt.
Die Forscher betonen, dass Cybersicherheit eine weitere Sorge darstellt, da generative KI potenziell dazu genutzt werden könnte, phishings auf raffiniertere Weise durchzuführen. Der Bericht deutet darauf hin, dass das volle Ausmaß der Sicherheitslücken noch nicht verstanden ist und sich im Laufe der Zeit weiterentwickeln kann. Darüber hinaus diskutiert die Studie weitere angebliche Schwachstellen, einschließlich des “jailbreaking” von generativer KI.
“Derzeitige [generative KI]-Modelle sind zunehmend Angriffen des ‘jailbreaking’ ausgesetzt”, bemerkten die Autoren der Studie. “Diese Angriffe beruhen auf der Entwicklung von sorgfältig entworfenen Anweisungen (Wortfolgen oder Sätzen), um die Regeln und Filter der [generativen KI] zu umgehen oder sogar bösartige Daten oder Anweisungen einzuführen (letzteres wird manchmal als ‘prompt injection attack’ bezeichnet). Diese Angriffe könnten die Funktionsweise der [generativen KI] beeinträchtigen oder sensitive Daten abgreifen.”
Um diese Risiken zu mindern, empfiehlt der Bericht eine genaue menschliche Überwachung von KI-Systemen, die Verbesserung der Erklärbarkeit von KI-Entscheidungen, den Ausbau regulatorischer Kapazitäten und die Förderung internationaler Zusammenarbeit bei der KI-Regulierung. Die Autoren erkennen das transformative Potenzial von generativer KI an, betonen aber die Notwendigkeit eines vorsichtigen Vorgehens, insbesondere in einem sensiblen Sektor wie dem Finanzwesen.
Was denken Sie über den Finanztechnologie-Bericht, der auf dem Webportal der IWF-Publikationen veröffentlicht wurde? Teilen Sie Ihre Gedanken und Meinungen zu diesem Thema im Kommentarbereich unten mit.
