KI-Regulierung vs. KI-Governance: Was sollte staatlich und was unternehmensintern reguliert werden?

Ein Kommentar von Peter Pugh-Jones, Director of Financial Services, Confluent:

Peter Pugh-Jones,, Director of Financial Services (Bild: Confluent)

„Erleben wir bald den europäischen Durchbruch im richtigen Umgang mit KI? Mit dem „EU AI Act“ strebt die Europäische Union die weltweit erste Gesetzgebung zur Künstlichen Intelligenz an. Dabei soll insbesondere das Wohl der Gesellschaft im Mittelpunkt stehen.  

Doch trotz KI-Gesetzgebung liegt es an den Unternehmen selbst, ihre eigene Daten-Governance sorgfältig zu überprüfen, insbesondere wenn es um den Einsatz von großen Sprachmodellen (Large Language Models, LLMs) geht. Nur so können sie sicherstellen, dass KI nicht nur ethisch verantwortungsvoll, sondern auch sicher und gewinnbringend eingesetzt wird.  

Während viele Unternehmensbereiche von einer stärkeren Automatisierung durch den Einsatz von KI profitieren, wie etwa optimierter Kundenservice oder die Reduzierung von Ressourcen und Kosten, birgt der technologische Einsatz auch Gefahren. Kommt es zu einem Ausfall oder einer Kompromittierung der Systeme, kann der potenzielle Schaden immens sein. Deshalb müssen Unternehmen darauf achten, dass ihre Pläne für die Ausfallsicherheit ihrer Systeme und die Wiederherstellung im Schadensfall noch gründlicher konzipiert und mit Fallback-Lösungen versehen werden. Verfügbare Cloud-Dienste können dabei helfen, die nötige Sicherheit zu gewährleisten. 

Letztendlich ist der richtige Einsatz von KI im Unternehmen die Aufgabe der CISOs, CTOs und CDOs. Gemeinsam müssen sie einen ganzheitlichen Ansatz für den Umgang mit Daten und KI-Governance als Teil der strategischen Roadmap für das Unternehmen definieren. Der EU AI Act ist ein wichtiger Schritt und sollte jedes Unternehmen dazu bewegen, den individuellen Umgang mit KI gründlich zu definieren und zu prüfen. Dies kann mit der Einführung von Funktionen wie Daten-Streaming-Plattformen unternehmensweit und transparent durchgeführt werden. Denn die Realität ist, dass Unternehmen, die sich nicht an die Erwartungen von Kunden und Behörden anpassen, den Anschluss verpassen werden."