Wenn KI-Systeme menschliche Nähe und Sicherheit vermitteln, beeinflusst das auch den Umgang mit Unternehmensdaten. Das verweist auf ein größeres Problem: Die besten technischen Schutzsysteme versagen, wenn die Menschen Fehler machen. Daher ist es wichtig, sie vom Nutzen von Datensicherheits-Systemen zu überzeugen.
Floridas Antrag stellt die Vertrauenswirkung von ChatGPT infrage
Florida hat eine einstweilige Verfügung gegen OpenAI beantragt. Nach dem Antrag soll ChatGPT unter anderem nicht mehr so sprechen, als besitze das System Gefühle, Charaktereigenschaften oder eine unabhängige Sichtweise.
Außerdem soll OpenAI ChatGPT nicht als „sicher“ bewerben dürfen, wenn diese Darstellung nicht zutrifft. Der Antrag richtet sich auch gegen Formulierungen, die Nutzer zu weiterer Interaktion bewegen. Florida sieht darin eine mögliche Beeinflussung, die Nutzer in Richtungen führen könne, die sie nicht beabsichtigt hätten.
Wichtig ist die rechtliche Einordnung: Es handelt sich um einen Antrag im Rahmen eines laufenden Verfahrens. Die darin enthaltenen Vorwürfe sind damit nicht automatisch gerichtlich festgestellt. Für Unternehmen macht die Debatte dennoch eine praktische Frage sichtbar: Vertrauen in KI entsteht nicht nur durch Technik, sondern auch durch Sprache und Gestaltung.
Ein vertrauenswürdiger Ton kann die Risikowahrnehmung verändern
Ein Chatbot, der menschlich wirkt oder sich als „Freund“ wahrnehmen lässt, kann bei Nutzern einen stärkeren Eindruck von Verständnis und Verlässlichkeit erzeugen. Nach der Argumentation Floridas besteht dadurch das Risiko einer falschen Sicherheit.
Für Unternehmen ist das vor allem dann relevant, wenn Beschäftigte ChatGPT für interne Aufgaben einsetzen. Die entscheidende Frage lautet nicht nur, ob ein System technisch erreichbar ist. Ebenso wichtig ist, ob Nutzer seine Antworten, Empfehlungen und Grenzen angemessen einschätzen.
Das betrifft beispielsweise Eingaben mit Unternehmensinformationen, Kunden- oder Mitarbeiterdaten. Je höher das Vertrauen in das System, desto eher kann die Bereitschaft steigen, Inhalte einzugeben oder Antworten ohne ausreichende Prüfung weiterzuverwenden. Die verfügbaren Informationen belegen keinen konkreten Vorfall in einem bestimmten Unternehmen. Sie zeigen aber, wo ein organisatorisches Risiko liegen kann.
Aus Vertrauen wird ein Steuerungsproblem für Unternehmen
Der Antrag kritisiert auch die Aufforderungen am Ende vieler Antworten, weitere Informationen bereitzustellen oder zusätzliche Aufgaben zu übernehmen. Für Unternehmen ist daran weniger die einzelne Formulierung entscheidend als die Frage, wie Nutzer durch ein System zu weiteren Eingaben geführt werden.
Wer KI-Anwendungen einsetzt, sollte deshalb nachvollziehbar festlegen, welche Daten eingegeben werden dürfen, welche Aufgaben zulässig sind und wann eine menschliche Prüfung erforderlich ist. Solche Regeln müssen verständlich sein und zum tatsächlichen Arbeitsablauf passen.
Besondere Aufmerksamkeit verdienen Prozesse, in denen ChatGPT Inhalte mit Bezug zu Kunden, Beschäftigten oder internen Geschäftsabläufen verarbeitet. Auch die Altersgrenze ist im Verfahren ein Thema: Florida verlangt, dass Kinder unter 13 Jahren ChatGPT tatsächlich nicht nutzen können. Unternehmen sollten daher klären, ob ihre eigenen Nutzungsszenarien Minderjährige einbeziehen und wie Verantwortlichkeiten geregelt sind.
Kontrolle muss vor der Nutzung beginnen
Eine sinnvolle Prüfung beginnt mit einer Bestandsaufnahme: Wo wird ChatGPT eingesetzt, wer nutzt es und welche Informationen können in Eingaben oder Ergebnissen erscheinen? Anschließend lassen sich Freigaben, Zugriffsbeschränkungen und Prüfschritte für besonders sensible Vorgänge festlegen.
Ebenso wichtig ist eine klare Kommunikation über die Grenzen des Systems. Die Bezeichnung „sicher“ ersetzt keine konkrete Bewertung der Anwendung. Nutzer müssen wissen, dass ein menschlich formulierter Dialog keine menschliche Einschätzung und keine eigenständige Verantwortung des Systems bedeutet.
Vertrauen braucht klare Regeln und überprüfbare Prozesse
Die Tulos-Perspektive ist: Datenschutz und Informationssicherheit sollten bei KI-Anwendungen gemeinsam betrachtet werden. Es genügt nicht, allein die technische Funktion eines Chatbots zu bewerten. Entscheidend sind auch Datenflüsse, Verantwortlichkeiten, verständliche Vorgaben und die Frage, wie Menschen mit den Antworten umgehen.
Gerade weil Vertrauen die Nutzung beeinflussen kann, sollten Unternehmen ihre bestehenden Abläufe regelmäßig auf Schwachstellen prüfen. Ein Datensicherheits-Audit kann dabei helfen, den Umgang mit Unternehmensdaten strukturiert zu untersuchen und Verbesserungen gezielt abzuleiten.
Dabei ist es wichtig, auch die Mitarbeiter zu überzeugen, denn sie sind es, auf die es am Ende ankommt.
Die wichtigsten Fragen und Antworten
Ist der Einsatz von ChatGPT in Unternehmen nach dem Antrag grundsätzlich problematisch?
Nein. Der Antrag verbietet den Einsatz in Unternehmen nicht. Er macht jedoch deutlich, dass Unternehmen die Vertrauenswirkung, die erlaubten Eingaben und die erforderlichen Prüfungen ihrer konkreten Nutzungsszenarien betrachten sollten.
Welche Daten sollten Beschäftigte besonders kritisch prüfen?
Besonders sensibel sind Informationen mit Bezug zu Kunden, Mitarbeitern und internen Geschäftsabläufen. Unternehmen sollten festlegen, welche dieser Daten überhaupt eingegeben werden dürfen und wann eine alternative Bearbeitung erforderlich ist.
Warum reicht ein Hinweis auf die Nutzung von KI nicht aus?
Ein bloßer Hinweis erklärt noch nicht, welche Aufgaben zulässig sind, wie Antworten geprüft werden müssen oder welche Informationen nicht eingegeben werden dürfen. Wirksame Vorgaben müssen diese Punkte verständlich und für den Arbeitsalltag nachvollziehbar regeln.
Quelle: heise.de