Menü
So funktioniert'sKundenPartner
Unternehmen›
Beliebt
Die häufigsten Einstiege
›
Frameworks
ISO 27001, NIS2, TISAX und mehr
›
Branchenlösungen
Finanzen, Energie und mehr
›
Managed Compliance
ISB, DSB, QMB und KI-Beauftragter
›
Use Cases
ISMS, Datenschutz, QMS und mehr
›
Compliance-Plattform
Das Digital Compliance Office
›
AI FirewallNeu
KI gesetzeskonform verwenden
›
Managed Compliance

„SECJUR nimmt uns bei der Informationssicherheit den entscheidenden Teil der Arbeit ab. Wir hatten nur wenige Wochen bis zum Zertifizierungsaudit und im Unternehmen niemanden, der ein ISMS aufbaut. Dank SECJUR mussten wir bis heute keine eigene Stelle besetzen und haben dennoch problemlos das Audit bestanden.“

Jan Sorgenfrei
Jan Sorgenfrei
Vice President of Engineering, Circus SE
Das Digital Compliance Office
Auszug aus den Modulen
Navigator
Geführte Schritte für Aufbau und Betrieb.
Asset Management
Alle Werte an einem Ort, nach Kritikalität.
Risikomanagement
Risiken bewerten, behandeln, nachverfolgen.
Vendor Management
Dienstleister und Lieferanten im Blick.
Policy Management
Richtlinien erstellen, verknüpfen, freigeben.
Incident Management
Vorfälle erkennen, klassifizieren, melden.
Contract Management
Datenschutzverträge und AVV-Prüfung.
Task Management
Alle Aufgaben und Fristen im Überblick.
Navigator · ISO 27001
Hauptsitz
Fortschritt
80 %
✓
Anwendungsbereich festlegen
erledigt
✓
Assets erfassen
erledigt
✓
Risiken bewerten
erledigt
Ihr Experte
hat 3 Nachweise verknüpft
Und vieles mehr
Audit Management, Online-Schulungen, Verarbeitungsverzeichnis, KI-Inventar, TOM und weitere Funktionen
Plattform entdecken →
SECJUR AI FirewallBeta
Das Problem
44 %
Ihrer Mitarbeitenden verstoßen bei der KI-Nutzung gegen Firmenrichtlinien oder Gesetze.

Ihr Team lädt vertrauliche Kunden- und Personendaten in ChatGPT, Claude und Co. Mit Ihrer Erlaubnis oder ohne.

Quelle: KPMG, 2025
Die Lösung
KI nutzen, nach Ihren Regeln.

Die AI Firewall prüft jede Anfrage direkt im KI-Tool und sagt sofort, ob sie erlaubt ist.

Ihr KI-Assistent · Claude
Fasse die Krankmeldungen aus dem Team in einer Tabelle zusammen.
Geprüft mit SECJUR AI Firewall
Nicht erlaubt
Regel 2.1 · Keine Gesundheitsdaten in KI-Tools
KI verbieten oder einfach laufen lassen? Beides geht schief.
Zur AI Firewall →
Wissen
Fachartikel und Guides
›
Vorlagen & Downloads
Whitepaper und Checklisten
›
Produkt & Hilfe
Hilfe, Integrationen und Updates
›
Glossar
Compliance-Begriffe einfach erklärt
›
Beitrag teilen
HOME
/
blog
/
EU AI Act: Wer haftet für Open-Source-KI?

EU AI Act: Wer haftet für Open-Source-KI?

Niklas Hanitsch

Volljurist und Compliance-Experte

07 Nov. 2026

5 Minuten

Als Jurist mit langjähriger Erfahrung als Anwalt für Datenschutz und IT-Recht kennt Niklas die Antwort auf so gut wie jede Frage im Bereich der digitalen Compliance. Er war in der Vergangenheit unter anderem für Taylor Wessing und Amazon tätig. Als Gründer und Geschäftsführer von SECJUR, lässt Niklas sein Wissen vor allem in die Produktentwicklung unserer Compliance-Automatisierungsplattform einfließen.

Key Takeaways

Open Source schützt nicht vor Haftung nach dem EU AI Act.

Wer ein KI-Modell kommerziell nutzt, wird rechtlich zum Anbieter.

Fine-Tuning kann die volle Compliance-Pflicht auslösen.

Saubere Dokumentation reduziert Haftungsrisiken erheblich.

Stellen Sie sich folgendes Szenario vor: Ein Entwickler veröffentlicht ein KI-Modell zur Bilderkennung als Open-Source-Projekt auf GitHub. Es ist ein Hobbyprojekt, entwickelt an Wochenenden. Monate später integriert ein Startup dieses Modell in eine Software zur automatischen Überwachung von Sicherheitskameras im öffentlichen Raum. Plötzlich macht das System einen Fehler, und es kommt zu einem rechtlichen Vorfall.

‍

Wer haftet nun? Der ursprüngliche Entwickler, der den Code frei zur Verfügung gestellt hat? Oder das Startup, das die Technologie kommerziell nutzt?

‍

Dies ist keine hypothetische Frage aus einem Jura-Seminar, sondern eine der dringendsten Realitäten unter dem neuen EU AI Act. Die Schnittstelle zwischen der kollaborativen Welt von Open Source und der strengen Regulierung der EU sorgt für Verunsicherung. Viele Entwickler fragen sich: "Bin ich plötzlich haftbar für das, was andere mit meinem Code tun?" Und Unternehmen fragen sich: "Kann ich Open-Source-Modelle nutzen, ohne mir unkalkulierbare Risiken ins Haus zu holen?"

‍

In diesem Beitrag entwirren wir das juristische Knäuel. Wir erklären verständlich, wer wann als "Anbieter" gilt, was "kommerzielle Aktivität" wirklich bedeutet und wie Sie sich – ob als Entwickler oder Nutzer – absichern können.

‍

Foundation: Der EU AI Act: Grundkonzepte und risikobasierter Ansatz

‍

Um die Haftungsfrage zu klären, müssen wir zunächst verstehen, wie der EU AI Act die Welt sieht. Anders als das Urheberrecht, das sich darauf konzentriert, wem etwas gehört, konzentriert sich der AI Act darauf, welches Risiko von einer Anwendung ausgeht.

‍

Das Gesetz unterscheidet dabei strikt zwischen verschiedenen Akteuren. Die zwei wichtigsten Begriffe, die Sie kennen müssen, sind:

  1. Der Anbieter (Provider): Dies ist die Person oder Organisation, die ein KI-System entwickelt (oder entwickeln lässt) und es unter eigenem Namen oder eigener Marke in den Verkehr bringt. In der klassischen Software-Welt wäre dies der Hersteller.
    ‍
  2. Der Betreiber / Anwender (Deployer): Dies ist die Person oder Organisation, die das KI-System in eigener Verantwortung nutzt (z. B. ein Unternehmen, das eine KI für das Screening von Bewerbungen einsetzt).

‍

Warum ist diese Unterscheidung so wichtig? Weil die Hauptlast der Compliance-Pflichten – und damit der Haftung – meist beim Anbieter liegt. Doch in der fließenden Welt von Open Source können diese Rollen schnell wechseln.

‍

Grundlegende Begriffe und Risiko-Kategorien des EU AI Act erklärt: Verstehen Sie die Rollen im Open-Source-KI-Ökosystem und wie die Risikoeinstufung die Haftung beeinflusst.

‍

Die Haftung hängt zudem stark von der Risikoklasse ab. Ein Open-Source-Spamfilter (geringes Risiko) wird rechtlich völlig anders behandelt als ein Open-Source-Tool zur Kreditwürdigkeitsprüfung (Hochrisiko).

‍

Building: Open Source KI unter dem AI Act: Wann die Ausnahme greift – und wann nicht

‍

Hier liegt das größte Missverständnis: Viele glauben, das Label "Open Source" sei ein Freifahrtschein, der von jeglicher Haftung befreit. Das ist ein gefährlicher Irrtum.

‍

Der EU AI Act sieht zwar Ausnahmen für kostenlose und quelloffene Lizenzen vor, aber diese Ausnahme ist an Bedingungen geknüpft. Sobald Sie diese Bedingungen verlassen, landen Sie in der vollen Regulierung.

‍

Die Falle der "Kommerziellen Aktivität"

‍

Die Open-Source-Ausnahme gilt nicht, wenn das KI-Modell im Rahmen einer kommerziellen Aktivität bereitgestellt wird. Hier wird es knifflig, denn "kommerziell" bedeutet nicht zwingend, dass Sie eine Lizenzgebühr für den Code verlangen.

Indikatoren für eine kommerzielle Aktivität können sein:

  • Kostenpflichtiger Support: Sie bieten den Code gratis an, verlangen aber Geld für technische Unterstützung.
  • Monetarisierung durch Daten: Sie tauschen die Nutzung des Modells gegen personenbezogene Daten der Nutzer.
  • Freemium-Modelle: Eine Basis-Version ist offen, die Pro-Version kostet Geld.

‍

Wenn Sie als Entwickler in diese Kategorien fallen, könnten Sie rechtlich zum "Anbieter" werden und müssen sicherstellen, dass Ihre AI Act Software und Dokumentation den EU-Standards entsprechen.

‍

Hochrisiko- und verbotene Systeme

‍

Selbst wenn absolut kein Geld fließt: Wenn Ihr Open-Source-Modell als "verbotene KI-Praktik" eingestuft wird (z. B. Social Scoring), ist die Bereitstellung illegal. Bei Hochrisiko-KI-Systemen (z. B. KI in der kritischen Infrastruktur oder Bildung) greift die Ausnahme für Open Source ebenfalls oft nicht oder nur eingeschränkt, insbesondere wenn das System als fertiges Produkt in den Verkehr gebracht wird.

‍

Schritt-für-Schritt-Entscheidungsbaum: Ermitteln Sie, ob Ihr Open-Source-KI-Projekt unter den EU AI Act fällt und welche Pflichten sich daraus ergeben.

‍

Mastery: Haftung in der Open-Source-Lieferkette: Wer ist wann verantwortlich?

‍

Die vielleicht komplexeste Frage ist die der "Haftungsverschiebung". In der modernen Softwareentwicklung wird Code selten von Grund auf neu geschrieben. Man nimmt ein Modell von Hugging Face, trainiert es nach (Fine-Tuning) und integriert es in eine App.

Wer haftet hier für Fehler?

‍

1. Der ursprüngliche Entwickler (Upstream)

‍

Solange keine kommerzielle Aktivität vorliegt und es sich nicht um ein GPAI-Modell (General Purpose AI) mit systemischen Risiken handelt, ist die Haftung für den ursprünglichen Open-Source-Entwickler oft begrenzt. Wichtig ist jedoch Transparenz: Eine klare Dokumentation (z. B. Model Cards) schützt vor Missverständnissen.

‍

2. Der Integrator / "Fine-Tuner" (Downstream)

‍

Hier entsteht oft die neue Haftung. Wenn ein Unternehmen ein Open-Source-Modell nimmt und eine "wesentliche Änderung" vornimmt, wird dieses Unternehmen rechtlich zum neuen Anbieter.

  • Beispiel: Sie laden ein allgemeines Sprachmodell herunter und trainieren es speziell für medizinische Ratschläge. Durch diese Zweckänderung machen Sie aus einem allgemeinen Modell ein potenzielles Hochrisiko-System. Sie erben damit die Pflichten eines Anbieters – inklusive Risikomanagement und Qualitätskontrolle.

‍

3. Der reine Nutzer (Deployer)

‍

Auch ohne den Code zu ändern, haben Unternehmen Pflichten. Sie müssen sicherstellen, dass die AI Open Source-Komponente für ihren Einsatzzweck geeignet ist. Wer blindlings eine KI einsetzt, ohne die Anweisungen des Anbieters zu befolgen (menschliche Aufsicht, Eingabedaten-Qualität), haftet für daraus entstehende Schäden.

‍

Action: Praktische Compliance für Open-Source-KI: Checklisten und Best Practices

‍

Wie navigieren Sie nun sicher durch dieses Minenfeld? Egal ob Sie Code veröffentlichen oder nutzen, Dokumentation und Sorgfalt sind Ihre besten Schutzschilde.

‍

Für Entwickler (Upstream)

‍

  • Klare Lizenzierung: Nutzen Sie Standard-Lizenzen, aber seien Sie sich bewusst, dass diese das EU-Recht nicht aushebeln.
    ‍
  • Model Cards nutzen: Dokumentieren Sie die Grenzen Ihres Modells. Wofür ist es gedacht? Wofür ausdrücklich nicht?
    ‍
  • Status prüfen: Klären Sie, ob Ihre Aktivitäten (Spenden, Support) als "kommerziell" gewertet werden könnten.

‍

Für Unternehmen / Integratoren (Downstream)

‍

‍

  • Due Diligence: Prüfen Sie vor dem Einsatz jedes Open-Source-Modells dessen Herkunft und Trainingsdaten.
    ‍
  • Risiko-Assessment: Fällt die geplante Nutzung in den Hochrisiko-Bereich? Wenn ja, sind Sie bereit, die Anbieter-Pflichten zu übernehmen?
    ‍
  • Systemisches Monitoring: Überwachen Sie das System im laufenden Betrieb. KI-Modelle können "driften" und ihr Verhalten ändern.

‍

Klare Checklisten für Entwickler, Nutzer und Distributoren: Erfahren Sie, welche Schritte Sie einhalten müssen, um Haftungsrisiken unter dem EU AI Act zu minimieren.

‍

Fazit: Compliance als Qualitätsmerkmal

‍

Die Haftungsregeln des EU AI Act mögen auf den ersten Blick wie eine Innovationsbremse wirken, besonders für die dynamische Open-Source-Community. Doch bei genauerem Hinsehen bieten sie auch eine Chance: Klare Regeln schaffen Vertrauen.

‍

Unternehmen werden in Zukunft bevorzugt Open-Source-Komponenten nutzen, die gut dokumentiert sind und deren rechtlicher Status geklärt ist. Compliance wird damit vom lästigen Übel zum Wettbewerbsvorteil.

‍

Der Schlüssel liegt darin, Compliance nicht als nachträglichen Gedanken zu behandeln, sondern von Anfang an in den Entwicklungsprozess zu integrieren. Mit den richtigen automatisierten Tools und einer klaren Strategie lässt sich auch die Hürde der KI-Regulierung meistern – damit Sie sich wieder auf das konzentrieren können, was wirklich zählt: großartige Technologie zu bauen.

‍

FAQ: Häufige Fragen zur Haftung bei Open-Source-KI

‍

Gilt der AI Act für mein kleines Hobbyprojekt auf GitHub?

‍

‍In der Regel nicht, solange es nicht Teil einer kommerziellen Aktivität ist und es sich nicht um ein verbotenes KI-System handelt. Sobald Sie jedoch Geld damit verdienen oder es in einem professionellen Kontext einsetzen, sollten Sie die Compliance prüfen.

‍

Was passiert, wenn ich die Regeln nicht befolge?

‍

‍Die Strafen sind empfindlich und können bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen. Auch für Open-Source-Akteure, die als "Anbieter" eingestuft werden, gelten diese Sanktionsrahmen.

‍

Muss ich meine gesamten Trainingsdaten offenlegen?

‍

‍Für GPAI-Modelle (General Purpose AI) müssen Anbieter eine detaillierte Zusammenfassung der für das Training verwendeten Inhalte veröffentlichen. Dies dient dem Urheberrechtsschutz. Dies gilt auch für Open-Source-Modelle, die als GPAI klassifiziert sind.

‍

Hilft mir eine "No Liability"-Klausel in meiner Lizenz (z.B. MIT License)?

‍

‍Nur bedingt. Zivilrechtliche Haftungsausschlüsse in Lizenzen sind wirksam zwischen den Vertragsparteien, können aber gesetzliche Pflichten aus dem AI Act (öffentliches Recht) nicht aushebeln. Wenn das Gesetz Sie als Anbieter eines Hochrisiko-Systems sieht, müssen Sie die Anforderungen erfüllen, egal was in Ihrer Lizenz steht.

‍

Niklas Hanitsch

Als Jurist mit langjähriger Erfahrung als Anwalt für Datenschutz und IT-Recht kennt Niklas die Antwort auf so gut wie jede Frage im Bereich der digitalen Compliance. Er war in der Vergangenheit unter anderem für Taylor Wessing und Amazon tätig. Als Gründer und Geschäftsführer von SECJUR, lässt Niklas sein Wissen vor allem in die Produktentwicklung unserer Compliance-Automatisierungsplattform einfließen.

Über SECJUR

SECJUR steht für eine Welt, in der Unternehmen immer compliant sind, aber nie an Compliance denken müssen. Mit dem Digital Compliance Office automatisieren Unternehmen aufwändige Arbeitsschritte und erlangen Compliance-Standards wie DSGVO, ISO 27001 oder TISAX® bis zu 50% schneller.

Compliance, completed

Automatisieren Sie Ihre Compliance Prozesse mit dem Digital Compliance Office

Mehr erfahren

Häufig gestellte Fragen

Die häufigsten Fragen zum Thema

Weiterlesen

Schutzziele der Informationssicherheit - CIA-Triade, Vertraulichkeit, Integrität und Verfügbarkeit | SECJUR Blog
Juni 19, 2026
9 min
Schutzziele der Informationssicherheit: CIA-Triade und erweiterte Ziele

Vertraulichkeit, Integrität, Verfügbarkeit: Die CIA-Triade und die erweiterten Schutzziele der Informationssicherheit, erklärt und im ISMS umgesetzt.

Lesen
Oktober 25, 2023
6 min
ISO 27001 Annex A.9 – Access Management leicht gemacht

Die Umsetzung von Access Management nach ISO 27001 Annex A.9 kann eine echte Herausforderung sein. Regulierung und Überwachung von Zugriffen sind unerlässlich, um Daten und Informationen zu schützen. In diesem Artikel erfahren Sie, wie die Partnerschaft zwischen SECJUR und Cakewalk Unternehmen dabei unterstützt, die Anforderungen dieses ISO-Annex effizient zu erfüllen. Entdecken Sie die Bedeutung von Annex A.9, seine Ziele und die verschiedenen Zugangskontrollmethoden. Erfahren Sie, wie Cakewalks intelligente Lösungen und SECJURs Expertise die nahtlose Integration der Zugriffsverwaltung in ein Informationssicherheitsmanagementsystem ermöglichen.

Lesen
November 28, 2025
4 Minuten
EU AI Act & GPAI: Wie gelingt die Risikoklassifizierung?

Viele Unternehmen nutzen bereits GPAI wie ChatGPT oder andere KI-Basismodelle, doch mit dem EU AI Act steigen die Anforderungen an Risikoklassifizierung und Verantwortung deutlich. Dieser Leitfaden erklärt verständlich, wie systemische Risiken, Haftungsketten und Pflichten für GPAI-Anbieter und Anwender einzuordnen sind. Erfahren Sie praxisnah, wie Sie Ihre KI-Nutzung rechtssicher gestalten und EU-AI-Act-Compliance strategisch umsetzen.

Lesen
TO TOP