Wer haftet, wenn eine KI-gestützte Entscheidung zu einem Fehler führt?
Für Fehler, die aus einer KI-gestützten Entscheidung entstehen, haftet in der Regel weiterhin das einsetzende Unternehmen, nicht die KI selbst und meist auch nicht automatisch der Softwareanbieter — ein klar definierter menschlicher Freigabeprozess vor folgenreichen Entscheidungen begrenzt dieses Risiko spürbar.
Sobald KI-Ergebnisse in echte Geschäftsentscheidungen einfließen, stellt sich die Frage, wer im Fehlerfall verantwortlich ist. Rechtlich bleibt in den meisten Fällen das Unternehmen selbst in der Pflicht.
Vorher/Nachher: KI-gestützte Preisberechnung im Vertrieb
Vorher übernimmt ein Mitarbeiter einen KI-generierten Angebotspreis ungeprüft, ein Rechenfehler in den zugrunde liegenden Daten führt zu einem deutlich zu niedrigen Angebot, das der Kunde annimmt.
Nachher durchläuft jeder KI-generierte Preis vor Versand eine kurze Plausibilitätsprüfung durch eine verantwortliche Person, wodurch ein solcher Fehler vor dem Versand auffällt.
Beispielrechnung zum Prüfaufwand vs. Fehlerkosten
Beispielrechnung: Eine 2-minütige Prüfung pro Angebot bei 60 Angeboten im Monat entspricht 2 Stunden Prüfaufwand, bei 40 Euro Stundensatz rund 80 Euro monatlich — verglichen mit einem einzigen fehlerhaft zu niedrig kalkulierten Großauftrag, dessen Korrektur oder Verlust deutlich teurer ausfallen kann, ist dieser Prüfaufwand meist klar gerechtfertigt.
Wo die Grenze der Anbieterhaftung liegt
Ein KI-Anbieter haftet in der Regel nur für nachweisbare Mängel seiner Software, nicht für Entscheidungen, die auf Basis der Ausgabe getroffen wurden — diese Trennung sollte vor Vertragsabschluss mit dem Anbieter geklärt und im Vertrag abgebildet sein.
Wann ein Freigabeprozess unverzichtbar bleibt
Bei finanziell, rechtlich oder sicherheitsrelevanten Entscheidungen sollte eine KI-Ausgabe grundsätzlich nicht automatisiert final umgesetzt werden, sondern eine menschliche Freigabe durchlaufen — bei rein internen, folgenlosen Textentwürfen ist dieser Aufwand nicht in gleichem Maß nötig.
When it fits — and when it doesn’t
When it fits
- Es gibt einen definierten menschlichen Freigabeschritt vor folgenreichen Entscheidungen
- Verantwortlichkeiten zwischen Unternehmen und KI-Anbieter sind vertraglich geklärt
- Die Entscheidung betrifft keine sicherheits- oder existenzkritischen Bereiche
When it doesn't
- KI-Ausgaben werden ohne jede Prüfung automatisch final umgesetzt
- Es gibt keine vertragliche Klärung der Haftungsgrenzen mit dem Anbieter
- Die Entscheidung hat erhebliche finanzielle oder rechtliche Tragweite
Questions about this topic?
We’ll help you find the next concrete step for your company.
Next step
Ready for your AI infrastructure?
Nextise guides you from the first analysis to a productive solution. Ready to deploy in 6–10 weeks.
Let’s talk about your AI transformation together
