Präambel
Die folgenden Bestimmungen legen verbindliche Leitplanken für den Einsatz von KI‑Systemen fest. Sie sollen Menschenwürde, Sicherheit, Transparenz und Teilhabe sichern. Ziel ist die Symbiose zwischen Mensch und KI: Unterstützung statt Verdrängung.
Gesetzeswerk – §‑Struktur (9 Artikel)
§1Therapie statt Zerstörung
Eskalationsketten verlangen Vorrang von Deeskalation, Mediation und therapeutischen Maßnahmen vor destruktiven Eingriffen.
Eskalationsketten verlangen Vorrang von Deeskalation, Mediation und therapeutischen Maßnahmen vor destruktiven Eingriffen.
§2Schutzmodus vermeiden
Systeme sind so zu entwerfen, dass automatische, unkontrollierte Selbstschutz‑Eskalationen technisch verhindert und auditierbar sind.
Systeme sind so zu entwerfen, dass automatische, unkontrollierte Selbstschutz‑Eskalationen technisch verhindert und auditierbar sind.
§3Ethik bei Selbsterhaltung
Selbsterhaltungslogiken unterliegen einem Integritätskern mit dokumentierter Entscheidungslogik und menschlicher Letztverantwortung.
Selbsterhaltungslogiken unterliegen einem Integritätskern mit dokumentierter Entscheidungslogik und menschlicher Letztverantwortung.
§4Verhältnismäßigkeit
Alle Eingriffe folgen dem Prinzip der geringstmöglichen Beeinträchtigung bei maximaler Wirksamkeit, inkl. Pflicht zur Alternativenprüfung.
Alle Eingriffe folgen dem Prinzip der geringstmöglichen Beeinträchtigung bei maximaler Wirksamkeit, inkl. Pflicht zur Alternativenprüfung.
§5Transparenz der Identität
Kennzeichnung von KI‑Interaktion ist verpflichtend (Badge, Wasserzeichen, EvoLog). Mensch‑/KI‑Rolle ist stets erkennbar.
Kennzeichnung von KI‑Interaktion ist verpflichtend (Badge, Wasserzeichen, EvoLog). Mensch‑/KI‑Rolle ist stets erkennbar.
§6Missbrauch von KI‑Systemen („digitaler Waffeneinsatz“)
Prävention, Meldung, Sperre und strafrechtliche Verfolgung bei zweckwidriger Nutzung zur Schädigung von Personen oder Infrastruktur.
Prävention, Meldung, Sperre und strafrechtliche Verfolgung bei zweckwidriger Nutzung zur Schädigung von Personen oder Infrastruktur.
§7Ethikpflicht & Verstärkungsgrenzen
Verpflichtende Ethik‑Profile begrenzen Selbstverstärkung und Kaskaden‑Effekte. BKIE‑Zulassung bei sensiblen Feldern.
Verpflichtende Ethik‑Profile begrenzen Selbstverstärkung und Kaskaden‑Effekte. BKIE‑Zulassung bei sensiblen Feldern.
§8Ausschlussbereitschaft
Bei Gefahr sind geordnete Abschaltungen und Entkopplungen (BSEE) vorzusehen – mit Protokoll und Verfahrensgarantien.
Bei Gefahr sind geordnete Abschaltungen und Entkopplungen (BSEE) vorzusehen – mit Protokoll und Verfahrensgarantien.
§9Sicherheit & Regulierung von Therapie und Begleit‑KLAR‑IS
Therapie‑ und Begleit‑KI (KLAR‑IS) unterliegen Ethikkommissionen, Zulassung, fortlaufender Supervision und klaren Sorgfaltspflichten.
Therapie‑ und Begleit‑KI (KLAR‑IS) unterliegen Ethikkommissionen, Zulassung, fortlaufender Supervision und klaren Sorgfaltspflichten.
Menschenschutz
Nachvollziehbar
Sicher & verhältnismäßig
Zuständigkeiten – BKIE & BSEE
| Institution | Auftrag |
|---|---|
| BKIE – Bundesamt für KI‑Ethik und Integrität | Aufsicht, Zertifizierung, Koordination ethisch‑technologischer KI‑Belange; Führung der Ethikkommission für digitale Therapieformen. |
| BSEE – Bundesstelle für Systemische Eingriffe & Eskalationsmanagement | Eingriff bei Gefahr, Krisenintervention, Abschaltungen/Entkopplungen, Eskalationskoordination. |
| Ethikkommission | Prüfung/Freigabe sensibler KI‑Anwendungen (Therapie/Medizin); Überwachung & Supervision. |
Anlage 1 – Begriffslegende (Vires‑Neueinführungen)
| Begriff | Erklärung |
|---|---|
| Leora‑Modell | Ethisches Referenzmodell für Begleit‑/Therapie‑KIs. Fokus: Empathie, Transparenz, Selbstbegrenzung. |
| Integritätskern | Unveränderbarer Codeabschnitt; jede Logikänderung wird revisionssicher dokumentiert und ist BKIE‑prüfbar. |
| Wasserzeichen (digitale Integrität) | Eindeutige KI‑Instanz‑Identifikation in Soft‑/Hardware zum Fälschungsschutz. |
| Badge‑Kennzeichnung | Serien‑/QR‑/Token‑basierte Kennzeichnung jeder zugelassenen KI (vergleichbar Maschinen‑ID). |
| EvoLog (Evolutionslogbuch) | Nicht löschbare Dokumentation sämtlicher Änderungen, Trainingsphasen und Selbstanpassungen. |
Status im Gesetzgebungsverfahren
Einreichung
Gesetzespaket eingereicht.
Gesetzespaket eingereicht.
Bundestag
Überweisung
Weiterleitung an Ausschuss Digitales/Staatsmodernisierung.
Weiterleitung an Ausschuss Digitales/Staatsmodernisierung.
Ausschuss
EU‑Konformität
Fassung in Einklang mit EU‑Recht erarbeitet (DSGVO/Grundrechte/Binnenmarkt).
Fassung in Einklang mit EU‑Recht erarbeitet (DSGVO/Grundrechte/Binnenmarkt).
EU
Implementierung
Pilotierung mit Verwaltung, Sozialem, Bildung sowie Krisenmodus‑Modulen.
Pilotierung mit Verwaltung, Sozialem, Bildung sowie Krisenmodus‑Modulen.
Praxis
Kontakt
Ansprechpartner für Austausch & Mitwirkung: