Künstliche Intelligenz und Recht – Die KI als Vertragspartner?

Künstliche Intelligenz ist sowohl privat als auch im geschäftlichen Umfeld nicht mehr wegzudenken. ChatGPT, Gemini, Claude und co. sind mittlerweile Alltagshelfer auf dem Smartphone und beantworten unsere Fragen des Alltags. Doch wie ist eigentlich die Rechtslage, wenn die KI den Mietvertrag erstellt, oder darüber entscheidet, ob der Kunde kreditwürdig ist? Was müssen Unternehmen und Kreative beim Einsatz von KI beachten? Der folgende Artikel soll Rechtsfragen im Bereich der KI näher betrachten.

Verantwortlichkeit für KI-erstellte Verträge

Einen fertigen Vertrag auf Knopfdruck, das wäre vor einigen Jahren noch nicht denkbar gewesen. Doch hat ein, von einer KI erstellter Vertrag auch seine Tücken. Denn derjenige, der den Vertrag dann benutzt gilt als dessen Verwender und muss sich auch nachteilige Regelungen zurechnen lassen. Hierbei sind oftmals durch KI erstellte Klauseln tückisch, an die man zunächst gar nicht denkt, z.B. was Nebenpflichten und eine Rückabwicklung betrifft. Gerade im geschäftlichen Umfeld, in welchem Vertragsmuster mehrfach verwendet werden, gelten auch KI-generierte Verträge als Allgemeine Geschäftsbedingungen (AGB), wenn diese durch den Verwender erstellt und mehrfach zu geschäftlichen Zwecken verwendet werden bzw. hierfür geeignet sind. Die strenge Inhaltskontrolle des BGB, §§ 307 ff. BGB gilt dann auch für KI-Verträge, also z.B. das Verbot einer unangemessenen Benachteiligung des Vertragspartners. Auch ist zu bedenken, das zahlreiche KI-Modelle ihren Ursprung im englischsprachigen Raum haben und sich hierdurch, übersetzungsbedingt, Unklarheiten in KI-erstellten Verträgen ergeben können, die wiederum zulasten des Verwenders gehen.

Automatisierte Entscheidungsfindung und Profiling

Bei Rechtsgeschäften, bei denen es auf die Bonität von Kunden ankommt, z.B. dem Kauf auf Rechnung oder den Abschluss eines Kredit- bzw. Mobilfunkvertrags könnte ein KI-gestütztes System selbstständig darüber entscheiden, wer einen Vertrag bekommt und wer als Vertragspartner abgelehnt wird. Eine vollständig automatisierte Entscheidungsfindung ist jedoch nach der europäischen Datenschutzgrundverordnung (DSGVO) nicht gestattet. Art. 22 DSGVO verbietet rechtlich relevante Entscheidungen bezüglich einer Person, wenn diese ausschließlich das Ergebnis einer maschinengenerierten Entscheidung sind, die Maschine also die Entscheidung trifft. Hier soll der Grundsatz gelten, dass noch immer ein Mensch eine für den Betroffenen rechtsverbindliche Entscheidung verantworten soll. Allerdings gibt es auch hier eine erhebliche Ausnahme. Gemäß Art. 22 Abs. 2 Nr. 1 DSGVO sollen solche automatisierten Entscheidungen dann möglich sein, wenn sie erforderlich sind, um einen bestimmten Vertrag abzuschließen oder diesen zu erfüllen, oder wenn ein Gesetz eine solche Ausnahme vorsieht. Im Hinblick auf das „Scoring“ von Kunden, z.B. durch Auskunfteien, hat der EuGH 2023 entschieden (Az. C-634/21, C-26/22, C-64/22) dass es sich bei dem „Score“ einer Auskunftei um eine automatisierte Entscheidungsfindung handeln kann, je nachdem wie das abfragende Unternehmen diesen einsetzt. Der EuGH führt weiter bezüglich der Frage, wie lange Auskunfteien Daten des Betroffenen speichern dürfen, aus, dass grundsätzlich ein berechtigtes Interesse für Unternehmen besteht, in bestimmten Fällen (z.B. der Vergabe von Darlehen) die Bonität möglicher Kunden vorab zu überprüfen. Jedoch ist hier auch eine Abwägung des Interesses von betroffenen Personen zu berücksichtigen, woraus sich konkrete Löschpflichten für Auskunfteien ergeben. Eine Person, die beispielsweise ein Insolvenzverfahren durchlaufen und erfolgreich eine Restschuldbefreiung erlangen konnte, hat auch das Recht, dass nach einer bestimmten Zeit, entsprechende Vermerke aus den Datenbanken von Auskunfteien gelöscht werden.

Regulierung von künstlicher Intelligenz – die KI Verordnung

Die europäische Union hat zur Regulierung von künstlicher Intelligenz eine Verordnung erlassen, welche für alle Mitgliedstaaten gilt und Regelungen für die Verwendung von künstlicher Intelligenz schafft. Hierbei wird ein risikobasierter Ansatz verfolgt. Es wird bewertet, inwiefern KI im konkreten Fall Grundrechte und -freiheiten der EU-Bürger beeinträchtigen kann, je nachdem erfolgt eine strengere oder weniger strenge Regulierung. Ab August 2026 gilt gemäß Art. 50 KI-VO eine Kennzeichnungspflicht für KI-Inhalte. Diese soll klar sichtbar machen, wenn Inhalte von einer KI erstellt worden sind, wie z.B. KI-generierte Abbildungen realer Personen, oder ein rein durch KI verfasster Nachrichtenartikel. Die Kennzeichnungspflicht soll hierbei nicht gelten, wenn eine KI (z.B. zu Recherchezwecken) lediglich als Hilfsmittel genutzt worden ist, und das eigentliche Werk weiterhin durch eine reale Person gestaltet worden ist. Apropos: Das Verwaltungsgericht München hat entschieden (Beschluss vom 08.05.2024, Az. M 3 E24.1136), dass ein Bewerber für ein Studium abgewiesen werden kann, wenn dieser in einem geforderten Vorstellungstext unerlaubt eine KI zur Erstellung einsetzt.

Fazit

In Art. 3 der KI-Verordnung wird der Begriff der künstlichen Intelligenz definiert als maschinengestütztes System das autonom funktioniert und Vorhersagen sowie Entscheidungen treffen und auch Inhalte erstellen kann. Die Folgen beim Einsatz von KI für rechtsrelevante Entscheidungen können weitreichend sein, daher empfiehlt sich insbesondere im Unternehmensumfeld eine fundierte rechtliche Beratung hierzu.

Autor: Markus Reichel, Rechtsanwalt, Fachanwalt für IT-Recht, Kanzlei77 – Kanzlei Dr. Braun GmbH, Hauptstr. 83a, 77652 Offenburg