Risiken und Ethik der KI – Was Sie für eine sichere Nutzung wissen sollten

Die 5 größten KI-Risiken

Die bisherigen Kapitel zeigten, wie nützlich KI sein kann. Um KI jedoch wirklich zu beherrschen, müssen Sie auch die Risiken verstehen.

Risiken zu kennen heißt nicht, Angst zu haben. So wie man beim Autofahren die Bremse verstehen muss, geht es um Grundwissen für sichere Nutzung.

Halluzinationen – Wenn KI selbstbewusst Falsches behauptet

Halluzination bedeutet: KI generiert faktisch falsche Informationen, als wären sie wahr. Das wohl größte Risiko der KI-Nutzung.

Warum passiert das?

KI prognostiziert „das nächste wahrscheinliche Wort", nicht „das richtige Wort". Sie prüft keine Wahrheit, sondern erkennt Muster. Benchmarks zeigen Halluzinationsraten von 0,7 % bei den besten Modellen bis hin zu fast 30 % bei schwächeren^[2].

Bekannte Vorfälle

• Erfundene Urteile – Ein US-Anwalt reichte von ChatGPT erfundene Gerichtsentscheidungen ein (2023)
• Erfundene Studien – KI generiert plausibel klingende, aber nicht existierende Facharbeiten
• Falsche Statistiken – Marktdaten und Zahlen werden frei erfunden
• Im juristischen Bereich liegen Halluzinationsraten laut Stanford bei 69–88 %^[2]

4 Schutzmaßnahmen

Besonders kritisch: Statistiken, Eigennamen, Gesetze/Steuerrecht und aktuelle Nachrichten. Diese Informationen immer an der Originalquelle verifizieren.

Urheberrecht – Darf man das nutzen? Und wem gehört das Ergebnis?

Das Thema KI und Urheberrecht hat zwei Dimensionen: „Dürfen urheberrechtlich geschützte Werke als Trainingsdaten verwendet werden?" und „Hat KI-generiertes Material Urheberrechtsschutz?"

Dimension 1: Trainingsdaten und Urheberrecht

Klage	Gegenstand	Status (2026)
NYT vs. OpenAI	Unerlaubtes Training mit Zeitungsartikeln	Laufend
Getty vs. Stability AI	Unerlaubtes Training mit Fotos	Laufend
Künstler-Sammelklagen	Kunstwerke als Trainingsdaten ohne Genehmigung	Mehrere laufend

Dimension 2: Urheberrecht an KI-generierten Werken

• EU – Regelungen zum Urheberrecht an KI-Erzeugnissen in Arbeit
• USA – „Rein KI-generierte Werke erhalten keinen Urheberrechtsschutz." Bei menschlicher kreativer Mitwirkung möglicherweise teilweise geschützt
• Deutschland – Rein maschinelle Erzeugnisse gelten nicht als urheberrechtlich geschützt; bei kreativer menschlicher Beteiligung kann Schutz bestehen

Was Sie beachten sollten

• Bei kommerzieller Nutzung die Nutzungsbedingungen des Dienstes prüfen
• In Bildgeneratoren keine konkreten Künstlernamen als Stilvorlage verwenden
• Prüfen, ob KI-Output bestehenden Werken zu sehr ähnelt
• Bei Bedarf KI-Nutzung kennzeichnen

Datenschutz – Was darf man der KI anvertrauen?

2023 gaben Samsung-Mitarbeiter vertraulichen Code in ChatGPT ein – ein Fall, der weltweit Schlagzeilen machte und viele Unternehmen zur Erstellung von KI-Richtlinien veranlasste.

Eingegebene Daten können zur Modellverbesserung genutzt werden. Gehen Sie davon aus, dass einmal eingegebene Informationen nicht mehr rückholbar sind.

Konkrete Schutzmaßnahmen

Maßnahme	Erläuterung
Chatverlauf deaktivieren	Bei ChatGPT und Claude kann die Verwendung von Chatdaten für Training deaktiviert werden
Enterprise-Version	Business-Pläne garantieren, dass Daten nicht für Training verwendet werden
Anonymisierung	Vor der Eingabe: Namen durch „Person A", Firmennamen durch „Firma X" ersetzen
Lokale Ausführung	Open-Source-Modelle mit Ollama auf dem eigenen PC betreiben

Bias und Deepfakes

KI-Bias – Vorurteile der Trainingsdaten

KI-Bias bedeutet: Gesellschaftliche Vorurteile in den Trainingsdaten spiegeln sich in den KI-Ausgaben wider.

• Gender-Bias – Bildgenerierung zeigt bei „Krankenpfleger" fast nur Frauen, bei „Ingenieur" fast nur Männer
• Kultureller Bias – Antworten tendieren zu westlich-englischsprachigen Perspektiven
• Bestätigungsfehler – Mehrheitsmeinungen werden überrepräsentiert, Minderheiten ignoriert

Gegenmaßnahme: „Betrachte das auch aus einer anderen Perspektive" oder „Nenne auch Gegenargumente" als Standardanweisungen verwenden. Bei Personalentscheidungen KI niemals als einzige Grundlage heranziehen.

Deepfakes – täuschend echte Fälschungen

KI-generierte realistische Bilder, Videos und Stimmen bergen erhebliche Risiken. Deepfakes auf Social Media sind von geschätzten 500.000 (2023) auf 8 Millionen (2025) angestiegen^[3].

• Stimmenklon-Betrug – Anrufe mit geklonter Stimme von Familienmitgliedern oder Vorgesetzten
• Gefälschte Videos – Manipulation der öffentlichen Meinung durch gefälschte Videos von Prominenten
• Fake News – massenhaft verbreitete, KI-generierte Nachrichtenartikel

Schutzmaßnahmen:

• Bei „dringenden" Anrufen über einen zweiten Kanal die Identität verifizieren
• Bei schockierenden Bildern/Videos in sozialen Medien die Quelle prüfen
• Bei KI-generierten Inhalten grundsätzlich eine gesunde Skepsis bewahren

Regulierung weltweit – Regeln entstehen

Region	Regulierung	Merkmale
EU	AI Act (2024 verabschiedet)	Risikobasierte Regulierung. Strenge Anforderungen für Hochrisiko-KI (Einstellungen, Medizin, Justiz). Schrittweise Anwendung ab 2025
Deutschland	Umsetzung EU AI Act	Nationale KI-Strategie mit Fokus auf verantwortungsvolle Innovation. Starker Datenschutz durch DSGVO
USA	Executive Order zur KI-Sicherheit	Kein umfassendes Bundesgesetz. Regulierung auf Bundesstaaten-Ebene

Die EU verfolgt mit dem AI Act den weltweit strengsten Ansatz – ein risikobasiertes Stufenmodell, das für alle EU-Mitgliedstaaten gilt.

Sicherheits-Checkliste für KI-Nutzung

Als Einzelperson

1. KI-Ausgaben nicht blind übernehmen – wichtige Informationen an Originalquellen verifizieren
2. Keine vertraulichen Daten eingeben – „Könnte das öffentlich werden?" als Test
3. Zahlen und Eigennamen gegenchecken – der häufigste Halluzinationsbereich
4. Auf Bias achten – ist die Antwort einseitig?
5. Urheberrecht prüfen – Nutzungsbedingungen bei kommerzieller Verwendung lesen
6. KI-Nutzung angemessen offenlegen
7. Verantwortung liegt beim Nutzer – KI-Fehler sind Nutzerfehler

Als Organisation

1. KI-Nutzungsrichtlinie erstellen und kommunizieren
2. Mitarbeiterschulungen durchführen
3. Freigabeprozesse für KI-generierte Inhalte einrichten
4. Enterprise-Versionen evaluieren
5. Incident-Response-Plan vorbereiten

Quellenverzeichnis

1. „Japan adopts first AI basic plan." The Japan Times, 23. Dezember 2025.
2. Vectara. „Hallucination Leaderboard." GitHub, 2025. / Stanford RegLab. „Legal Hallucination Study." 2025.
3. Deepstrike. „Deepfake Statistics 2025." deepstrike.io, 2025.

Weiterführende Links:

• EU AI Act Explorer – Volltext und Erläuterungen zum EU AI Act

Im nächsten Kapitel geht es um die neuesten KI-Trends – multimodale KI, KI-Agenten und die Entwicklungen 2025–2026.