KI-Governance-Studie von ABBYY

Fehlender Konsens bei Verantwortlichkeiten

Um KI-Trends zu erkennen sowie das eigene KI-Engagement mit den realen Entwicklungen in den Unternehmen und Organisationen abzugleichen, ließ ABBYY in einer Studie 1.200 Führungskräfte befragen. Diese arbeiten in Unternehmen mit mindestens 100 Beschäftigten in den USA, Großbritannien, Frankreich, Singapur, Australien und Deutschland. Die deutsche Auswertung umfasst 200 Befragte.

»Ein sehr überraschendes Ergebnis war für uns«, so Andrew Perry, Ethik Evangelist bei Abbyy, bei der Vorstellung der Studie mit ECMGUIDE, »dass unter den Befragten kein Konsens darüber herrscht, wer für die KI-Ergebnisse die Verantwortung übernimmt.« Demnach findet fast ein Drittel (29 Prozent) der Führungskräfte in Unternehmen, die KI einsetzen, die Verantwortung solle zwischen dem Unternehmen und dem Anbieter aufgeteilt werden. 27 Prozent sehen die Hauptverantwortung beim Unternehmen, das die KI einsetzt. 28 Prozent halten ausschließlich den KI-Anbieter für verantwortlich. Weitere 12 Prozent sind der Meinung, die Verantwortung liege beim Endnutzer. Vier Prozent meinen, die Aufsichtsbehörden sollten die Hauptverantwortung tragen.

Vertrauen in KI-Ergebnisse

Abgefragt wurden auch die Ansichten zu Korrektheit der KI-Ergebnisse, ihr Zustandekommen und den Datenschutz. So vertrauen 29 Prozent der Führungskräfte, die KI in ihrem Unternehmen einsetzen, vollständig darauf, dass KI-Systeme korrekte Ergebnisse liefern. Ein Viertel (25 Prozent) ist uneingeschränkt davon überzeugt, dass KI das Zustandekommen wichtiger Entscheidungen erklären kann. Für 31 Prozent ist der Schutz vertraulicher Informationen vollständig gewährleistet. 28 Prozent sind sich sicher, dass KI-Systeme keine unvertretbaren Risiken verursachen.

Mehr als die Hälfte (55 Prozent) der Führungskräfte gibt im Studienbericht »ABBYY Who Answers for AI: The Governance Gap« an, dass ihr Unternehmen KI schneller einführt, als es sie wirksam steuern kann. Dies verstärkt die Sorge, dass Data Governance mit dem Innovationstempo kaum Schritt halten. Data Governance umfasst Kontrollmechanismen, die korrekte, sichere und regelkonforme Daten gewährleisten. Sie stellt laut der Studie ein wesentliches Hindernis für die Skalierung des KI-Einsatzes dar: 62 Prozent der Führungskräfte in Unternehmen, die KI einsetzen, geben an, dass Anforderungen an die Data Governance die Einführung von KI verlangsamen.

Ethische Bedenken

29 Prozent berichten, dass ethische Bedenken im Unternehmen die Umsetzung von KI-Initiativen erheblich verzögern. Dies verdeutlicht, wie schwierig es für Unternehmen ist, Innovation und verantwortungsvolle Einführung miteinander zu vereinbaren.

Jedoch gibt auch etwa die Hälfte (52 Prozent) der Führungskräfte in Unternehmen mit KI-Governance an, dass ihre KI-Initiativen die erwarteten Ziele übertroffen haben. 15 Prozent berichten, dass die Leistung der KI hinter den Erwartungen zurückbleibt. Damit stellt sich die Frage, ob Unternehmen geeignete Strukturen schaffen, um das volle Potenzial von KI auszuschöpfen.

Bedenken hinsichtlich der Datenqualität bilden das größte Hindernis für einen höheren ROI bei KI-Anwendungen. Fast ein Viertel (24 Prozent) der Führungskräfte nennt sie als größte Herausforderung. Dahinter folgen der Fachkräftemangel (16 Prozent) sowie Anforderungen an Governance und Aufsicht (12 Prozent).

Abbyys Governance-Initiativen

Die Studienergebnisse sollen dazu beitragen, Abbyys Engagement für eine vertrauenswürdige KI zu untermauern. So startete Abbyy vor zwei Jahren die Zusammenarbeit mit »ForHumanity« – eine Non-Profit-Organisation, die sich auf die unabhängige Prüfung, Auditierung und Governance von KI-Systemen spezialisiert hat. »Gemeinsam mit dieser Organisation haben wir ein sehr strenges Rahmenwerk für das KI-Risikomanagement entwickelt, das es uns ermöglicht, die Überprüfbarkeit und Rückverfolgbarkeit des tatsächlichen Verhaltens unseres KI-Portfolios nachzuweisen und so Vertrauen bei unseren Kunden zu schaffen«, berichtet Perry. Zudem ist Abbyy Teil der DocLang-Initiative. Dabei handelt es sich um eine Initiative verschiedener Organisationen, darunter Red Hat und Nvidia, zur Schaffung eines standardisierten Mechanismus für den Dokumentenaustausch zu KI-Zwecken.

Darüber hinaus lege Abbyy nach Angaben von Perryy großen Wert auf die Einhaltung von Vorschriften, einschließlich der neuen Rahmenwerke für künstliche Intelligenz und Cloud-Sicherheit, insbesondere in Deutschland. So sei Abbyy gerade dabei, eine Konformitätserklärung gemäß BSI-C5 abzuschließen, die die Einhaltung von Vorschriften bei Cloud-Sicherheit nachweist. Diese zentralen Engagements sieht Abbyy als integrale Bestandteile der Weltmarktstrategie. »Daher hilft uns die Studie sehr, zu validieren und zu verstehen, welche Bedenken unsere Kunden hinsichtlich der KI-Nutzung haben und wie viele von ihnen proaktiv auf diese Bedenken reagieren und sie angehen«, erläutert Perry.

KI-Governance in Unternehmen

Die Ergebnisse der Studie deuten darauf hin, dass eine wirksame Governance Unternehmen dabei unterstützt, mit KI einen höheren Mehrwert zu erzielen. Von den Befragten aus Unternehmen mit einem entsprechenden Rahmenwerk geben 77 Prozent an, dass ihre KI-Initiativen dadurch erfolgreicher geworden sind. Nach Ansicht von 73 Prozent der Führungskräfte in Unternehmen, die KI nutzen, bringt der jeweilige Governance-Ansatz Risikominderung und eine schnelle Bereitstellung von KI in Einklang.

Die Mehrheit der Führungskräfte (82 Prozent), deren Unternehmen bereits KI einsetzen, gibt an, dass ein formelles Rahmenwerk für KI-Governance besteht. Der Reifegrad der Governance unterscheidet sich jedoch. Nur die Hälfte (50 Prozent) verfügt über ein Verfahren zur Meldung von KI-Vorfällen. 52 Prozent haben einen Reaktionsplan für solche Vorfälle, 45 Prozent einen Abschaltmechanismus für KI-Systeme (Kill-Switch) und 38 Prozent Funktionen zur Rücksetzung (Rollback). Lediglich drei Prozent geben an, dass ihr Unternehmen über keine Funktionen zum Management von KI-Vorfällen verfügt.

Pläne für KI-Governance

Zudem planen Unternehmen ohne formelle KI-Governance, entsprechende Strukturen zu schaffen. 13 Prozent der Führungskräfte in Unternehmen, die KI nutzen, geben an, dass derzeit keine formelle KI-Governance besteht. Ihr Unternehmen will jedoch innerhalb der kommenden zwölf Monate ein entsprechendes Rahmenwerk entwickeln.

Unternehmen mit einem Rahmenwerk für KI-Governance erkennen bereits praktische Vorteile. Jeweils etwa die Hälfte gibt an, dass Governance die Entwicklung von KI-Systemen (48 Prozent) und die Skalierung von KI-Initiativen über die Pilotphase hinaus (49 Prozent) erleichtert. 50 Prozent zufolge fördert sie die Akzeptanz von KI-Systemen unter den Mitarbeitern.

Doch auch die menschliche Aufsicht bleibt wichtig. 59 Prozent der deutschen Führungskräfte sagen, dass Menschen alle wichtigen KI-Entscheidungen prüfen, bevor daraus Maßnahmen folgen. In Australien steigt dieser Anteil auf 61 Prozent, in Singapur sinkt er auf 49 Prozent. Dies zeigt anhaltende Unterschiede bei der menschlichen Einbindung in KI-gestützte Entscheidungsprozesse.