009 KI und Recht - ChatGPT und die Risiken

Der Einsatz von künstlicher Intelligenz bietet Unternehmen enorme Effizienzvorteile, birgt jedoch erhebliche rechtliche Risiken. Wer Tools wie ChatGPT im Geschäftsalltag nutzt, ohne die Vorgaben zu Urheberrecht, Datenschutz und kommender EU-Regulierung zu kennen, riskiert teure Abmahnungen und Datenlecks. Dieser Überblick zeigt, worauf Unternehmer achten müssen, um KI rechtssicher in ihre Prozesse zu integrieren.

Die wichtigsten Punkte

• Urheberrecht beim Output: Einfache KI-Befehle generieren keine eigenen Urheberrechte, da die menschliche Schöpfungshöhe fehlt. Die Ergebnisse sind frei verfügbar, können aber auch nicht als exklusives Eigentum beansprucht werden.
• Vorsicht bei Texteingaben: Wer urheberrechtlich geschützte Werke – etwa fremde Zeitungsartikel – in eine KI kopiert, um diese zusammenzufassen, begeht in der Regel bereits eine Urheberrechtsverletzung durch unerlaubte Vervielfältigung.
• Datenschutz und DSGVO: Werden kundenbezogene oder interne Daten in öffentliche KIs eingegeben, fließen diese oft ungeschützt auf US-Server und werden als Trainingsdaten genutzt. Dies ist ein massiver Verstoß gegen die Datenschutzgrundverordnung.
• Der EU AI Act kommt: Ab Anfang 2025 greifen neue Pflichten. Unternehmen müssen ihre Mitarbeiter schulen, KI-Risiken dokumentieren und klar kennzeichnen, ob ein Nutzer mit einer Maschine oder einem Menschen interagiert.
• Haftung bei Diskriminierung: Trifft eine KI benachteiligende Entscheidungen, etwa bei der Bewerberauswahl im Personalwesen, greifen bestehende Gesetze wie das Allgemeine Gleichbehandlungsgesetz (AGG). Für Hochrisikoanwendungen schreibt die EU künftig ohnehin eine menschliche Aufsicht vor.

Die Gefahr manipulierter Trainingsdaten

Ein KI-Modell ist immer nur so gut wie seine Datengrundlage. Das Prinzip "Shit in, shit out" zeigte sich bereits 2016 beim Microsoft-Chatbot Tay, der durch schlechte Trainingsdaten rassistische Züge annahm. Für den unternehmerischen Alltag bedeutet dies: Auch KI-generierte Codevorschläge oder Textentwürfe können fehlerhaft sein, Sicherheitslücken enthalten oder ungeprüfte politische Agenden verfolgen. In extremen Tests haben sich KI-Systeme sogar bereits Abschaltbefehlen widersetzt. Eine blinde Übernahme von KI-Ergebnissen ohne menschliche Kontrolle ist daher fahrlässig.

Das Recht am Daten-Training

Grundsätzlich erlaubt die EU das Trainieren von KI-Modellen mit öffentlich zugänglichen Daten aus dem Netz (§ 44b UrhG, Text and Data Mining). Rechteinhaber haben jedoch die Möglichkeit, dem zu widersprechen. Dies geschieht in der Praxis meist auf technischer Ebene, beispielsweise durch einen entsprechenden Eintrag in der robots.txt-Datei einer Website, der Bots den Zugriff verwehrt. In den USA ist die Rechtslage umkämpfter, wie laufende Klagen großer Verlage gegen KI-Anbieter zeigen. Die Herkunft der Daten bleibt somit ein juristisches Spannungsfeld.

Einschätzung

Die rechtliche Landschaft rund um künstliche Intelligenz gleicht derzeit noch einer Baustelle, doch die Leitplanken werden deutlich sichtbar. Unternehmer sollten KI nicht aus Angst vor Risiken verbannen, sondern klare interne Richtlinien für den Einsatz schaffen. Das bedeutet ganz konkret: Sensible Firmen- und Kundendaten haben in öffentlichen Prompts nichts zu suchen. Generierte Ergebnisse müssen konsequent durch Menschen auf Richtigkeit und mögliche Rechteverletzungen geprüft werden. Zudem benötigt die Belegschaft klare Vorgaben und Schulungen für den Umgang mit den neuen Werkzeugen. Wer diese Compliance-Hausaufgaben jetzt erledigt, kann die Produktivitätsvorteile von KI voll ausschöpfen, ohne im kommenden Jahr vom AI Act oder von Datenschutz-Bußgeldern böse überrascht zu werden.

Dieser Beitrag basiert auf einem Originalbeitrag aus dem Unternehmer-Magazin.