Um KI-Systeme ranken sich viele Rechtsfragen. Eine davon ist: Wann ist KI – als Voraussetzung von Gewährleistungsrechten – mangelhaft?

KI-Systeme zeichnet aus, dass sie bei Überlassung an den Nutzer inhaltlich und funktional gerade nicht fertig sind. Sie sind gerade darauf ausgerichtet, durch Analyse ihres Einsatzes zu lernen und besser zu werden. Das beruht wesentlich auf der Bewertung von Wahrscheinlichkeiten/neuronalen Netzwerken. Perfektion ist also konzeptionell ausgeschlossen. Man mag befürchten, dass KI insofern im Rechtssinne kaum greifbar gemacht werden kann. Diese Befürchtung ist aber unbegründet. Denn trotz vereinzelter Besonderheiten und einer akademisch kurios anmutenden Diskussionen um die Notwendigkeit einer eigenen juristischen Persönlichkeit von KI sind die Vorschriften des besonderen Schuldrechts ohne größere Reibungsverluste auf KI-Sachverhalte anwendbar. Wie bei anderen komplexen IT-Systemen genügt es, aufmerksam mit den kritischen Stellen umzugehen.

Oft „normales“ Kaufrecht anwendbar

Das Eigentum an KI-Systemen wird häufig gegen einmalige Vergütung unbefristet übertragen (z. B. bei Mobilgeräten, KFZ, eingebetteten Systemen). Anders als beim Software as a Service („SaaS“) oder dem Application Service Providing („ASP”) ist daher Kaufrecht einschlägig. Dagegen spricht auch nicht, dass KI-Systeme gerade nicht „fertig“ überlassen werden. Auch klassische Kaufgegenstände werden in dem Bewusstsein verkauft, dass sie noch „reifen“ müssen. Das gilt nicht nur für Wein.

Wann aber ist KI mangelhaft? Abstrakt ist dies der Fall, wenn der Kaufgegenstand von der Sollbeschaffenheit abweicht.

Subjektive Mängel

Subjektive Mängel bestehen, wenn die Kaufsache nicht der vereinbarten Beschaffenheit entspricht, § 434 Abs. 1 S. 1 BGB, oder sich nicht für die vertraglich vorausgesetzte Verwendung eignet, § 434 Abs. 1 S. 2 Nr. 1 BGB. Wie üblich muss die Kaufsache vertragsgemäß nutzbar sein. Wird eine Software verkauft, die Kunden-E-Mails höflich beantwortet, dürfen nach üblichen Maßstäben unhöfliche Antworten gegenüber Kunden nicht vorkommen. Interessant ist auch folgende Kuriosität: Wird die als durchschnittlichgenau angepriesene Supportsoftware zum Einserschüler und übertrifft die versprochene Leistungserwartung, so kann das System trotz – oder gerade wegen – der guten Performance im Rechtssinne mangelhaft sein. Dies erscheint zunächst widersinnig, leuchtet aber ein, wenn man bedenkt, dass eine Abweichung von der vereinbarten Sollbeschaffenheit vorliegt. Auch wenn es sich bei dieser Kuriosität um ein eher akademisches Problem handelt, verdeutlicht es, dass der Anbieter die Erwartungen und Vereinbarungen bewusst steuern sollte.

Objektive Mängel

KI-Systeme müssen sich neben subjektiven Maßstäben auch an objektiven Anforderungen messen lassen. Eine Kaufsache ist nämlich nur mangelfrei, wenn sie sich (i) für die gewöhnliche Verwendung eignet und (ii) eine Beschaffenheit aufweist, die bei Sachen der gleichen Art üblich ist und (iii) die der Käufer nach Art der Sache nicht erwarten kann, § 434 Abs. 1 S. 2 Nr. 2 BGB.

Dies scheint von den Beteiligten zunächst zu viel abzuverlangen. Denn anders als bei körperlichen Gegenständen erscheint es gerade für technikfremde Käufer kaum möglich, einen Vergleichsmaßstab für die erworbene KI zu präsentieren. Anders als etwa bei Pkw, die für jedermann eindeutig die Funktion erfüllen müssen, bspw. motorisiert fahren zu können, ist dies bei KI aufgrund ihrer Dynamik auf den ersten Blick kaum möglich.

Anhand anerkannter Grundsätze lassen sich aber auch in Bezug auf KI-Systeme die erforderlichen Vergleichsmaßstäbe herausarbeiten. Entscheidend ist der anhand von jeweils am Markt wertbildenden Faktoren zu identifizierende Vergleichsmarkt (z.B. Preis, speziellen Einsatzgebieten, Qualitätsstandards, Pflegbarkeit der Systeme). Dann ist nach dem zur Zeit des Gefahrübergangs geltenden Stands der Technik zu bestimmen, welche Beschaffenheit ein vernünftiger Käufer von dem KI-System erwarten kann.

Beweisprobleme?

Aufgrund ihrer technischen Komplexität wird KI-Systemen (häufig zu Unrecht) eine gewisse Intransparenz der Ursachenzusammenhänge nachgesagt. Dies wiederum führe dazu, dass der technisch nicht versierte Käufer Mängel kaum nachweisen könne. Diese Sorge ist weitgehend unbegründet: Denn auch Laien können zumindest die Mangelsymptome bezeichnen und nachweisen. Dem muss der Verkäufer grundsätzlich mit näheren Erklärungen begegnen. Damit lassen sich durch herkömmliche zivilprozessuale Mittel prinzipiell auch für KI 

angemessene Ergebnisse erzielen (z. B. Grundsätze der sekundären Darlegungslast, Streitverkündung, Geschäftsgeheimnisgesetz).

Fazit

Es zeigt sich, dass das zivilrechtliche Repertoire trotz einiger Herausforderungen das nötige Handwerkszeug bereithält, um KI-Systeme auf Mängelrechte zu untersuchen.

Für den interessierten Leser: Zu dem Thema „Mängelrechte bei KI“ wird der Autor dieses Beitrags auf den diesjährigen Kölner Tagen zum IT-Recht vom 25. und 26. März 2021 referieren und lädt herzlich dazu ein, mitzudiskutieren.