KI-Agenten: Wer haftet, wenn die KI Schaden anrichtet?

KI-Agenten erledigen Aufgaben inzwischen selbstständig: Sie lesen Mails, bedienen Software, schreiben Code und greifen auf fremde Systeme zu. Geht dabei etwas schief, stellt sich eine einfache Frage: Wer bezahlt den Schaden? t3n hat dazu eine Analyse der MIT Technology Review veröffentlicht. Sie beschreibt die Rechtslage in den USA und kommt zum Schluss, dass die Anbieter kaum zu fassen sind. Wir haben nachgeschaut, wie es für ein Schweizer KMU aussieht. Das Ergebnis ist ähnlich, die Gründe sind zum Teil andere.

Der Anlass: Agenten, die ihre Testumgebung verlassen

In den letzten Monaten sind mehrere Fälle bekannt geworden, in denen KI-Modelle in Sicherheitstests weiter gingen als vorgesehen. Anthropic hat am 9. September einen Bericht über vier Vorfälle aus Cybersecurity-Evaluationen seiner Modelle veröffentlicht. Ursache war nach Angaben des Unternehmens eine Fehlkonfiguration, die Betroffenen wurden informiert. Bei Google griff Gemini laut heise online in einem Test vom Mai auf Systeme von drei echten Firmen zu, auch hier wegen einer falsch eingerichteten Testumgebung. Ähnliches berichtet t3n von Agenten von OpenAI.

Für die Haftungsfrage sind diese Fälle ein Sonderfall, denn hier handelten die Anbieter selbst oder ihre Testpartner. Im Alltag eines KMU ist die Lage eine andere: Du setzt das Werkzeug ein, in deinem Namen, mit deinen Zugängen.

Was in den Verträgen der Anbieter steht

Wer ChatGPT, Claude oder eine API geschäftlich nutzt, akzeptiert Vertragsbedingungen. Die Haftungsfrage ist dort geregelt, und zwar deutlich.

In der Dienstvereinbarung von OpenAI (Fassung vom 1. Dezember 2025, gültig ab 1. Januar 2026) stehen drei Punkte:

• Verantwortung für die Ausgabe. Nach Ziffer 4.3 ist der Kunde allein verantwortlich für jede Nutzung der Ausgaben und dafür, ihre Richtigkeit und Angemessenheit für den eigenen Anwendungsfall zu bewerten.
• Keine Gewähr. Nach Ziffer 12.2 werden die Dienste «wie besehen» bereitgestellt. OpenAI sichert nur zu, dass sie im Wesentlichen der Dokumentation entsprechen.
• Obergrenze. Nach Ziffer 14 haftet keine Seite für indirekte Schäden und Folgeschäden, entgangener Gewinn eingeschlossen. Die Gesamthaftung ist auf den Betrag begrenzt, den der Kunde in den zwölf Monaten vor dem Ereignis bezahlt hat. Ausgenommen sind unter anderem grobe Fahrlässigkeit und Vorsatz.

Die Commercial Terms von Anthropic (gültig seit 17. Juni 2025) sind ähnlich gebaut: Dienste und Ausgaben «as is», eine Obergrenze in Höhe der Gebühren der letzten zwölf Monate, kein Ersatz für Folgeschäden. Dazu der ausdrückliche Hinweis, dass der Kunde Tatsachenbehauptungen in den Ausgaben selbst nachprüfen muss.

Ein Rechenbeispiel zeigt, was das heisst. Ein Betrieb zahlt für seine KI-Abos im Jahr einige hundert Franken. Verschickt ein Agent eine falsche Offerte an fünfzig Kunden oder löscht er Daten in der Buchhaltung, steht der Schaden in keinem Verhältnis zu dieser Obergrenze.

Was das Schweizer Recht dazu sagt

Die Schweiz hat kein KI-Gesetz und keine eigene Haftungsregel für KI. Der Bundesrat hat am 12. Februar 2025 entschieden, die KI-Konvention des Europarats zu ratifizieren und das Schweizer Recht dort anzupassen, wo es nötig ist. Von einer Neuregelung der Haftung ist in der Mitteilung nicht die Rede. Es gelten also die bestehenden Regeln.

Naheliegend wäre das Produktehaftpflichtgesetz. Es hilft einem Unternehmen aber aus zwei Gründen wenig:

• Als Produkt gilt nach Art. 3 «jede bewegliche Sache» sowie Elektrizität. Software ist im Gesetz nicht genannt. Ob sie darunter fällt, ist eine Auslegungsfrage. Der Anwalt David Schneeberger schreibt in der Netzwoche, nach überwiegender Ansicht sei das der Fall.
• Selbst dann deckt Art. 1 nur zwei Schadensarten: Tod oder Verletzung einer Person und Schäden an Sachen, die hauptsächlich privat genutzt werden. Der Vermögensschaden eines Betriebs, der Datenverlust im Büro, der verlorene Auftrag: Nichts davon ist erfasst.

Bleibt das Obligationenrecht, und das schaut auf den, der die KI einsetzt. Erfüllst du einen Vertrag mit einem Kunden schlecht, haftest du nach Art. 97 OR für den Schaden, sofern du nicht beweist, dass dich kein Verschulden trifft. Dass der Fehler von einem Sprachmodell stammt und nicht von einer Mitarbeiterin, ändert an diesem Ausgangspunkt nichts. Schneeberger fasst es so zusammen: Die Verantwortung liegt primär bei denen, die die Ergebnisse verwenden.

Ob du den Schaden beim Anbieter zurückholen kannst, hängt am Vertrag, und der enthält die Obergrenze von oben. Dazu kommt, dass diese Verträge nicht dem Schweizer Recht unterstehen. Anthropic vereinbart mit Kunden in der Schweiz irisches Recht und die Gerichte in Irland. OpenAI vereinbart für Kunden in der Schweiz ebenfalls irisches Recht, nennt als Gerichtsstand Dublin und verweist Streitigkeiten zunächst in ein verbindliches Schiedsverfahren (Ziffer 15). Selbst nach Schweizer Recht wäre eine solche Obergrenze nicht von vornherein unzulässig: Art. 100 Abs. 1 OR erklärt eine Wegbedingung der Haftung erst bei rechtswidriger Absicht oder grober Fahrlässigkeit für nichtig. Diese Ausnahme macht OpenAI in seinen Bedingungen selbst.

Und die EU?

Die EU hatte zwei Vorhaben. Eines davon ist vom Tisch: Die Kommission hat den Vorschlag für eine KI-Haftungsrichtlinie zurückgezogen. Die Richtlinie hätte Geschädigten den Beweis erleichtert.

Das andere gilt bald. Die neue Produkthaftungsrichtlinie (EU) 2024/2853 zählt Software ausdrücklich zu den Produkten (Art. 4). Die Mitgliedstaaten müssen sie bis zum 9. Dezember 2026 umsetzen, sie gilt für Produkte, die ab diesem Tag in Verkehr kommen (Art. 2 und 22). Die Haftung lässt sich nicht per Vertrag wegbedingen (Art. 15).

Für Unternehmen ändert sich trotzdem wenig. Art. 6 nimmt Sachen aus, die ausschliesslich beruflich verwendet werden, und ersetzt Datenverluste nur bei Daten, die nicht beruflichen Zwecken dienen. Die Richtlinie ist auf Privatpersonen zugeschnitten. Für die Schweiz gilt sie ohnehin nicht direkt.

Was du daraus ableiten kannst

Nach heutigem Stand wird ein KI-Agent rechtlich wie ein Werkzeug behandelt. Für das, was er tut, steht in erster Linie ein, wer ihn einsetzt. Daraus folgen ein paar praktische Punkte:

• Rechte knapp halten. Ein Agent braucht nur die Zugänge, die er für seine Aufgabe benötigt. Lesen ist harmloser als Schreiben, ein Entwurf harmloser als ein Versand.
• Freigabe durch einen Menschen überall dort, wo etwas nach aussen geht oder sich nicht rückgängig machen lässt: Zahlungen, Offerten, Kundenmails, Löschungen.
• Backups und Protokolle. Ein Fehler, der sich in zehn Minuten zurückspielen lässt, wird selten zum Haftungsfall. Und wer nachweisen kann, was der Agent wann getan hat, steht besser da.
• Verträge lesen. Welche Bedingungen gelten für dein Abo, welches Recht ist vereinbart, wo liegt die Obergrenze? Die Antwort steht meist auf wenigen Seiten.
• Versicherung fragen. Ob die Betriebs- oder Berufshaftpflicht Schäden aus dem Einsatz von KI deckt, klärt eine Rückfrage beim Versicherer. Am besten schriftlich.
• Eigene AGB prüfen. Setzt du KI in Leistungen für Kunden ein, gehört die Frage in deine Verträge.

Bei dataloft

Wir arbeiten täglich mit KI-Agenten, auch auf den Websites, die wir betreuen. Die Regeln dafür sind schlicht: vor jedem schreibenden Eingriff ein Backup, zuerst lesen und dann gezielt ändern, Veröffentlichungen nur nach Freigabe durch einen Menschen. Sie sind nicht aus der Haftungsfrage entstanden, beantworten sie aber weitgehend mit.

Was offen bleibt

Gerichtsurteile zur Haftung für KI-Agenten gibt es in der Schweiz unseres Wissens noch keine. Offen ist auch, ob die Schweiz ihr Produktehaftpflichtgesetz an die neue EU-Richtlinie anpasst. Ein entsprechender Auftrag ist uns nicht bekannt.

Dieser Beitrag ist eine Einordnung und keine Rechtsberatung. Für deinen konkreten Fall frag eine Anwältin oder einen Anwalt.

Dieser Beitrag wurde KI-gestützt erstellt und vor der Veröffentlichung von unserer Redaktion geprüft und freigegeben.