Compliance

Künstliche Intelligenz (KI) hält immer mehr Einzug in unseren Alltag. Für viele Unternehmen sind damit aber auch Fragen und Unsicherheiten verbunden. Wie lässt sich KI dabei erfolgreich in bestimmte Arbeitsprozesse integrieren? Und was gibt es im Hinblick auf rechtliche Compliance zu beachten? Mark Neufurth, Lead Strategist bei IONOS, hat in seinem Vortrag im Rahmen des Online-Seminars „KI für KMU“, veranstaltet von der Wirtschaftsförderung Region Stuttgart GmbH, einige dieser Fragen beantwortet. KI? Nur eine verrückte Sache? Fünf Thesen dazu, wie es um einen vermeintlichen Hype steht: (Generative) KI wird mit Erwartungen überschüttet. Ernüchterung droht kurzfristig – mittelfristig wird KI aber enge Begleiterin bleiben: Diese Erkenntnis geht aus dem „The Gartner Hype Cycle for Artificial Intelligence 2024“ hervor. Der Gartner Hype Cycle für künstliche Intelligenz erforscht KI-Technologien jenseits der generativen KI. Dabei wird betont, dass Unternehmen, die nach lohnenswerten KI-Investitionen suchen, ein breiteres Spektrum an KI-Innovationen in Betracht ziehen müssen. Viele dieser Innovationen werden im Gartner Hype Cycle for Articial Intelligence hervorgehoben Unabhängig zeigen bahnbrechende Ereignisse, wie der hochrangig besetzte ‘AI Action Summit’ Anfang Februar in Paris, wohin die Reise für Europa in Sachen Künstliche Intelligenz geht. KI ohne Cloud: Das geht kaum: Public und Private Clouds sind Teil der Gleichung. Viele KI-Dienste aus der Cloud werden von Unternehmen bereits jetzt genutzt oder sollen künftig genutzt werden, wie der Cloud Report 2024 von Bitkom Research zeigt. Skalierbarkeit, geeignete Rechenpower, Liquiditätsschonung und technische Sicherheit sprechen für die Cloud. Zögern allerorten – AI Act vermeintliche Blackbox? Für die Mehrheit im Mittelstand ist KI bisher noch kein Thema. So zeigt eine Sonderumfrage Künstliche Intelligenz der DZ Bank (Mai 2024), dass 35% der befragten Unternehmen KI noch nicht einsetzen und weitere 20% noch auf der Suche nach geeigneten Einsatzmöglichkeiten sind. Zögern allerorten – KI-Governance noch unterentwickelt: Große Teile der Unternehmen sehen aktuell noch viel Handlungsbedarf im Bereich KI-Governance (Frameworks, Richtlinien und Best Practices, die als eine Art Leitlinie fungieren). So sehen sich 63% nicht gut vorbereitet auf die Auswirkungen des EU AI Acts. Nur 8% der Unternehmen haben zudem ein vollständiges Governance-Modell (vgl. KPMG, Oktober 2024, „Generative KI in der deutschen Wirtschaft 2024“). AI Act wird weniger heiß gegessen als gekocht: Der KI-Verhaltenscodex füllt den AI Act mit Leben. Dabei werden Transparenz und Dokumentation im Vordergrund stehen. Gerade aktuell zeigt sich auch seitens der EU-Kommission, dass der Nutzen der KI nicht von der Regulatorik erstickt werden soll. Der Wert von KI liegt auf der Hand Manche Wege beim Einsatz von Künstlicher Intelligenz sind bereits erfolgreich beschritten. Greifbare Resultate liegen dabei entlang des Weges. (Generative) AI kann sowohl für Text, als auch Sprache, Bilder, Video, Audio und für Daten genutzt werden. Hierbei bieten sich verschiedenste Einsatzmöglichkeiten an: Generierung: Erzeugen von Texten aller Art durch Eingabeaufforderung (Prompting); erzeugen von echten Stimmen; Erstellung von Bildern mithilfe von Text; Erstellung von echten Videos; Erstellung von Musik Modifizierung: Ändern von generierten/vorhandenen Texten; ändern vorhandener Stimmen; ändern von Bildeinstellungen und Stil; ändern vorhandener Videos, ändern von Musik Aggregation/Klassifizierung: Texte komprimieren; Sprache in Text umwandeln; Auflösung von Bildern ändern/Bilder sortieren; Teaser eines kompletten Videos erstellen/Handlung und Storyline extrahieren; Musik klassifizieren/verschlagworten; Daten aggregieren Übersetzung: Text automatisch übersetzen; Sprache in Echtzeit übersetzen; Text in Bildern übersetzen; Untertitel in Videos übersetzen; Daten interpretieren Vorstellungskraft: Eine Tonalität für den Text finden; einen Sprachbot erstellen; eine bildhafte Sprache entwickeln; Erkenntnisse und Vertrauen schaffen Abhängig davon, welches Tool hierbei eingesetzt wird, ist die Umsetzung mit einer unterschiedlichen Komplexität verbunden. Während der Umgang mit Text oder auch Bildern relativ einfach ist, nimmt die Komplexität bei der Sprache oder auch beim Video zu. Noch anspruchsvoller ist der Einsatz von KI insbesondere dann, wenn Audio oder Daten hierfür genutzt werden sollen. Ist das Urheberrecht ein Stolperstein? Der AI Act wird reifen müssen. Höchstrichterliche Rechtsprechung, Leiturteile, Verhaltenspraktiken und Best Practices werden ihre Zeit benötigen. Ohne den Rat fachkundiger Jurist:innen ersetzen zu wollen und zu können. Bis dahin ist folgendes Vorgehen empfehlenswert: Langsam und bedächtig mit dem Einsatz von KI beginnen Grundsätze einhalten Mitarbeiter:innen schulen und ausbilden, Datenschutzhinweise prüfen Wege, Verfahren, Quellen dokumentieren Vermeintlich „kostenlose“ KI-Werkzeuge auf offensichtliche Kompromisse überprüfen - Verwendung der erfassten Daten Wenn immer möglich, diskrete Schulungsformen wählen Eine Richtlinie, eine Datenschutz-Folgeabschätzung und eine Risikobewertung vorbereiten Risikoklassen überprüfen, sofern eigene KI-Modelle erstellt werden Gehostete & verwaltete Modelle verwenden, um sie in Bezug auf IT-Security sicher zu halten KI-Erweiterungen von bestehenden Tools (Microsoft 365, Adobe, etc.) nutzen und von ‘eingebauter KI’ im Rahmen bestehender Vertragsverhältnisse profitieren Eine menschliche Aufsichtsinstanz einsetzen Berichtspflichten gegenüber Behörden vorbereiten Einige Betrachtungen, ohne Anspruch auf Vollständigkeit: Konzentriert man sich auf generative KI, wird deutlich, dass diese im AI Act nicht explizit genannt werden. Dort ist jedoch von GPAI-Systemen („general-purpose AI system“) die Rede. Eine detaillierte Definition von GPAI wird im AI Act jedoch nicht genannt. Zur Einordnung folgende allgemeine, vom Future of Life Institute (FLI) stammende, Definition (FLI 2024) von GPAI-Systemen: Grundsätzlich sind mit GPAI-Systemen solche KI-Systeme gemeint, die auf einem allgemeinen KI-Modell basieren, das für eine Vielzahl von Zwecken eingesetzt werden kann. Darunter ist sowohl die direkte Verwendung als auch die Integration in andere KI-Systeme zu verstehen. Im AI Act werden GPAI, bis auf eine Ausnahme, lediglich in den sogenannten „Recitals“ (Erwägungsgründen) erwähnt. „Recitals“ regeln das Verhältnis von AI Act zu Urheberrecht. Im Recht der Europäischen Union ist ein Erwägungsgrund ein Text, in dem die Bestimmungen eines Rechtsakts begründet werden, wobei normative Sprache und politische Argumentation vermieden werden. Ein Erwägungsgrund kann gerne auch am Ende einer Rechtsnorm stehen. Erwägungsgründe sind häufig anzutreffen. Die Datenschutzverordnung (DSGVO) enthielt beispielsweise gleich 173 Erwägungsgründe, Article 53 (1) des AI Acts geht näher darauf ein, was im Hinblick auf den Einsatz von GPAI-Systemen zu beachten ist. Folgende Punkte werden dort genannt (vgl. IONOS 2024; FLI 2024): Öffentliche Bekanntmachung (eine Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte muss veröffentlicht werden) Weitergabe von Informationen (Ausarbeitung von Informationen und Unterlagen für nachgelagerte Anbieter:innen, die das GPAI-Modell in ihr eigenes KI-System integrieren wollen) Eine technische Dokumentation erstellen (einschließlich des Ausbildungs- und Testverfahrens und der Bewertungsergebnisse) Compliance & Urheberrechtskonformität (Einhaltung der Urheberrechtslinie) Deutschland hat diesbezüglich das Urheberrecht an den AI Act angeglichen. Folgende Punkte sind hier zentral: Deutschland hat die Richtlinie (EU) 2019/790 in das Urheberrechtsgesetz (UrhG) eingebunden. 44b UrhG Text- und Data-Mining für kommerzielle Zwecke ist unter „bestimmten“ Voraussetzungen erlaubt, und zwar, um Informationen zu erhalten über: Muster, Trends und Korrelationen Wenn die Trainingsdaten aus Web Scraping stammen (Verfahren, mit dem Daten aus dem Internet „abgekratzt“ und in einer Datei gespeichert werden), welches die Voraussetzungen des Text- und Data-Minings (TDM) erfüllt, ist in der Regel keine weitere Vergütung anwendbar. (TDM (Computergestützte) Analyseverfahren, mithilfe derer große Mengen von Texten oder Daten unter verschiedenen Aspekten durchsucht und ausgewertet werden können, etwa mit Blick auf Muster und Korrelationen). 60d UrhG regelt das Text- und Data-Mining für Forschungszwecke. Er gilt nicht für kommerzielle KI-Systeme. Ausschluss von Text- und Data-Mining nach §44b (3) 2 nur in maschinenlesbarer Form: txt (maschinenlesbar) Im Kontext von Impressum oder AGB enthalten All das ist nur eine ausschnittsweise Betrachtung des anspruchsvollen rechtlichen Komplexes, der der Judikative gewiss noch einige Herausforderungen bieten wird. Zusammengefasst soll mit dem AI Act sichergestellt werden, dass KI ethisch, sicher und transparent entwickelt und eingesetzt wird. Der AI Act achtet dabei auf ein angemessenes Gleichgewicht zwischen dem legitimen Interesse am Schutz von Geschäftsgeheimnissen und der Notwendigkeit, Parteien mit berechtigtem Interesse (einschließlich den Inhaber:innen von Urheberrechten) einen gewissen Rechtsrahmen zur Ausübung ihrer Rechte an die Seite zu stellen. Die Inhalte dieses Wissensbits stammen größtenteils aus dem Vortrag „Erfolgreiche Integration und rechtliche Compliance in der Cloud-Ära“ von Mark Neufurth, Lead Strategist bei IONOS. Der Vortrag wurde im Rahmen des Online-Seminars „KI für KMU“ gehalten, welches die Wirtschaftsförderung Region Stuttgart GmbH am 30. Oktober 2024, im Rahmen des Kooperationsprojektes „Branchenzentriert qualifizieren – Zukunft sichern“ veranstaltet hat. Sie ersetzen keinesfalls eine qualifizierte juristische Beratung im Einzelfall. Die Veranstaltung wurde durch den Europäischen Sozialfonds (ESF) Plus gefördert und vom Ministerium für Wirtschaft, Arbeit und Tourismus Baden-Württemberg kofinanziert.

Innovation für die Energiewende entsteht im Netzwerk

Gefährliche Tricks: E-Mail- und Domain-Spoofing im Fokus

Digitale Souveränität: Europäische Alternativen zu Google, Microsoft und Co.

Quantum-Readiness – World Quantum Day, 14. April 2026

Leadership ist keine Frage des Titels – sondern des Übergangs.

KI als Karriere-Turbo: Warum CIOs zu den CEOs von morgen werden

Komfortzone kills Sichtbarkeit: Warum echte Medienpräsenz für Startups überlebenswichtig ist

Technisches Briefing erstellen: Technik-Briefing & Tech Briefing Projekt

Startup WAYSSART Solutions im GründerView

Innovation für die Energiewende entsteht im Netzwerk

Startup BIMraum im GründerView

Leadership ist keine Frage des Titels – sondern des Übergangs.

Wie viel Mensch verträgt die KI?

Vom Know-how zum Green Skill: Wenn Nachhaltigkeit zur Kompetenz wird

Was macht KI mit unserem Denken? Ein Blick auf die MIT-Studie

Vom Hype zum Helfer: Wie KI-Agenten Fahrt aufnehmen

Schlagwort: Compliance

Erfolgreiche Integration von KI und deren rechtliche Compliance

Rechtssicherheit in Social Media: Profilname [Teil 1]

Startup WAYSSART Solutions im GründerView

Innovation für die Energiewende entsteht im Netzwerk

Gefährliche Tricks: E-Mail- und Domain-Spoofing im Fokus

Digitale Souveränität: Europäische Alternativen zu Google, Microsoft und Co.

Startup BIMraum im GründerView