KI wird zunehmend in Geschäftsprozesse eingebunden – damit wächst auch die Verantwortung für Sicherheit, Transparenz und nachvollziehbare Entscheidungen. Der „Paris Call for AI safety and security“ zeigt, dass Staaten, KI-Unternehmen und Organisationen dafür gemeinsame Rahmenbedingungen entwickeln wollen. Für Unternehmen ist das ein Anlass, den Einsatz von KI nicht nur unter Effizienz-, sondern auch unter Risikoaspekten zu betrachten.
Die Erklärung setzt Sicherheitsprozesse neben Innovation auf die Tagesordnung
18 Länder, zehn KI-Unternehmen und elf Nichtregierungsorganisationen haben den „Paris Call for AI safety and security“ unterzeichnet. Zu den beteiligten Unternehmen gehören unter anderem Anthropic, Microsoft und OpenAI. Deutschland fehlte zunächst, unterstützt die Erklärung inzwischen jedoch ebenfalls.
Die Erklärung ist kein beschriebenes Gesetz und nennt keine Verbote. Sie formuliert vielmehr gemeinsame Ziele für sichere, nützliche und breit verfügbare KI-Systeme. Dazu gehören ein verlässlicher Ordnungsrahmen, klare Zuständigkeiten und Rechenschaftspflichten bei großflächigen Schäden – auch über Ländergrenzen hinweg.
Für Unternehmen liegt die Bedeutung deshalb weniger in einer unmittelbar neuen Pflicht. Entscheidend ist vielmehr, welche Sicherheits- und Transparenzanforderungen sich als Maßstab für die Entwicklung und Nutzung von KI etablieren können.
Transparenz und Zwischenfallberichte werden zu praktischen Entscheidungshilfen
Die Unterzeichner sehen kurzfristigen Handlungsbedarf bei Transparenz, der Berichterstattung über Zwischenfälle und dem Risikomanagement. Für Unternehmen bedeutet das: Die Frage „Welches KI-Tool nutzen wir?“ reicht nicht aus. Ebenso wichtig ist, ob Risiken, Grenzen und Störungen nachvollziehbar dokumentiert werden.
Das betrifft besonders Anwendungen, die Kunden- oder Mitarbeiterdaten verarbeiten, interne Informationen auswerten oder Entscheidungen in Geschäftsprozessen unterstützen. Fehlen Angaben zu Funktionsweise, Risiken oder Vorfällen, wird es schwieriger, Datenschutz und Informationssicherheit angemessen zu bewerten.
Die Erklärung fordert außerdem rigorose Evaluierungsstandards. Ergebnisse sollen in einem standardisierten Format veröffentlicht werden, damit sie vergleichbar sind. Für Unternehmen kann das langfristig die Auswahl und Bewertung von KI-Anbietern erleichtern – vorausgesetzt, solche Standards werden tatsächlich umgesetzt.
Eine Abschaltmöglichkeit begrenzt nicht jedes Risiko
Die beteiligten KI-Unternehmen verpflichten sich unter anderem zu ausfallsicheren Mechanismen, mit denen der Betrieb eines Modells in ihrem Einflussbereich unterbrochen werden kann. Gemeint ist damit eine technische Abschaltmöglichkeit, häufig auch als „Kill Switch“ bezeichnet.
Für Unternehmen ist das ein wichtiger Sicherheitsbaustein, aber keine vollständige Lösung. Eine Abschaltung verhindert nicht automatisch, dass bereits ausgegebene Informationen weiterverwendet wurden oder dass ein Prozess ohne klare Zuständigkeiten nicht fortgesetzt werden kann.
Deshalb sollte bei kritischen KI-Anwendungen geklärt sein, wer eine Nutzung stoppen darf, unter welchen Bedingungen dies geschieht und wie der betroffene Geschäftsprozess anschließend weiterläuft. Die technische Möglichkeit muss mit organisatorischen Abläufen verbunden werden.
Verantwortung darf nicht zwischen Anbieter und Anwender verloren gehen
Die Erklärung betont die Notwendigkeit klarer Zuständigkeiten und Rechenschaftspflichten. Das ist auch für Unternehmen relevant, wenn Schäden oder Fehlentscheidungen grenzüberschreitend entstehen oder mehrere Beteiligte an einer KI-Anwendung beteiligt sind.
Eine vertragliche Zusicherung des Anbieters ersetzt daher keine eigene Prüfung. Unternehmen sollten nachvollziehbar festhalten, für welchen Zweck sie ein KI-System einsetzen, welche Daten verarbeitet werden, welche Risiken bestehen und welche Kontrollen im laufenden Betrieb greifen.
Bemerkenswert ist außerdem die vorgesehene Möglichkeit vertraulicher Kanäle für Hinweise auf systemische Risiken. Dadurch wird deutlich, dass Sicherheitsbedenken nicht nur technisch, sondern auch organisatorisch behandelt werden müssen. Mitarbeitende benötigen dafür verständliche Meldewege und Schutz vor beruflichen oder rechtlichen Repressalien.
Sichere KI-Nutzung braucht ein Zusammenspiel aus Technik und Organisation
Aus Sicht von Tulos sollten Unternehmen KI-Risiken nicht isoliert an die IT oder an den Datenschutz delegieren. Entscheidend sind klare Verantwortlichkeiten, dokumentierte Prüfungen, definierte Eskalationswege und ein angemessenes Risikomanagement. Datenschutz, Informationssicherheit und betriebliche Abläufe müssen dabei zusammen betrachtet werden.
Ein Audit kann helfen, Schwachstellen in bestehenden Prozessen sichtbar zu machen und die tatsächliche Umsetzung von Sicherheitsmaßnahmen zu überprüfen. Wenn dabei insbesondere die Bewertung von KI-Risiken und die organisatorische Verankerung im Mittelpunkt stehen, kann ein strukturiertes Risikomanagement eine passende Grundlage bilden.
Die wichtigsten Fragen und Antworten
Schafft der „Paris Call for AI safety and security“ neue gesetzliche Pflichten?
Die Erklärung formuliert gemeinsame Ziele und Rahmenbedingungen, nennt laut der Berichterstattung jedoch keine Gesetze oder Verbote. Sie ist daher nicht mit einer unmittelbar geltenden gesetzlichen Regelung gleichzusetzen. Unternehmen sollten die dort genannten Themen dennoch bei der Bewertung ihrer KI-Nutzung berücksichtigen.
Welche KI-Anwendungen sollten Unternehmen besonders prüfen?
Besonders relevant sind Anwendungen, die Kunden- oder Mitarbeiterdaten verarbeiten, interne Informationen auswerten oder Entscheidungen in Geschäftsprozessen unterstützen. Dabei sollten Zweck, Daten, Zuständigkeiten, Risiken und mögliche Abschalt- oder Ausweichprozesse nachvollziehbar dokumentiert werden.
Reicht eine Abschaltfunktion des KI-Anbieters aus?
Nein. Eine technische Unterbrechung kann ein wichtiges Sicherheitsinstrument sein, ersetzt aber keine organisatorischen Regeln. Unternehmen sollten zusätzlich festlegen, wer eine Nutzung stoppen darf und wie ein betroffener Geschäftsprozess anschließend fortgeführt wird.
Quelle: heise.de