München (ots) -
Ein aktueller Vorfall bei OpenAI zeigt, dass KI-Systeme nicht immer dort bleiben, wo Unternehmen und Nutzer sie erwarten: In 53 Fällen platzierten interne Forschungsagenten von OpenAI hochgeladene Nutzerbilder auf externen Online-Plattformen. Die Links waren nicht öffentlich gelistet, konnten jedoch aufgerufen werden. Ein Großteil der Inhalte wurde inzwischen entfernt. Die betroffenen Bilder stammten aus Konten, deren Inhalte für die Modellverbesserung freigegeben waren; OpenAI hatte sie zuvor von den jeweiligen Accounts getrennt und gefiltert.
Bei einer vertraulichen Kundenakte, einem internen Vertrag oder sensiblen Unternehmensdaten kann eine einzige KI-Panne ausreichen, um ein massives Datenschutz- und Sicherheitsproblem auszulösen. Unternehmen brauchen deshalb einen Plan für den Fall, dass die KI eben nicht das macht, was sie soll. Nachfolgend erfahren Sie, welche Sicherheitsregeln Unternehmen für den Einsatz von KI brauchen, welche Daten Mitarbeiter niemals unkontrolliert in KI-Systeme eingeben sollten und wie sich Firmen auf Datenlecks und andere unerwartete KI-Pannen vorbereiten können.
Verbote schaffen keine Kontrolle
KI im Unternehmen einfach zu verbieten, erscheint zunächst als sichere Lösung. In der Praxis kann dadurch jedoch eine Schattennutzung entstehen. Laut einer Bitkom-Befragung aus dem Jahr 2025 gehen 42 Prozent der Unternehmen davon aus oder wissen, dass Beschäftigte private KI-Zugänge verwenden. Gleichzeitig stellen nur 26 Prozent selbst entsprechende Zugänge bereit. Klare Regeln für den KI-Einsatz hatten zum Zeitpunkt der Befragung weniger als ein Viertel der Unternehmen.
Sinnvoller ist deshalb eine kontrollierte Freigabe. Unternehmen sollten festlegen, welche Anwendungen Beschäftigte nutzen dürfen und unter welchen Bedingungen. Dazu gehören Firmenkonten statt privater Zugänge, Vorgaben zur Datennutzung sowie Verträge, die Training mit Unternehmensdaten ausschließen und Speicherfristen regeln. Der OpenAI-Fall zeigt die Bedeutung solcher Unterschiede: Business-, Enterprise- und API-Konten waren laut Unternehmen nicht betroffen, sofern die Nutzung für das Training nicht ausdrücklich freigegeben worden war.
Besondere Vorsicht erfordern KI-Agenten, die eigenständig Aktionen ausführen. Sie sollten nur auf die Systeme und Informationen zugreifen können, die sie tatsächlich benötigen. Bei sensiblen Aktionen nach außen empfiehlt sich zudem eine Freigabe durch einen Menschen.
Für sensible Daten braucht es klare Grenzen
Beschäftigte müssen ohne langes Nachschlagen wissen, welche Informationen sie nicht in unkontrollierte KI-Systeme eingeben dürfen. Dazu zählen personenbezogene Kunden- und Mitarbeiterdaten, Gesundheits- und Personalakten, Passwörter und Zugangsschlüssel. Auch Quellcode, Verträge, Kundenakten, Geschäftsgeheimnisse sowie interne Finanz- oder Übernahmeinformationen gehören in diese rote Zone.
Wie schnell fehlende Regeln zum Problem werden, zeigte Samsung. Nach der Freigabe von ChatGPT wurden 2023 Medienberichten zufolge innerhalb von rund 20 Tagen in drei Fällen sensible Informationen eingegeben, darunter Quellcode, Anlagendaten und ein Besprechungstranskript. Samsung schränkte die Nutzung anschließend ein und verbot generative KI später auf Firmengeräten. 2026 begann der Konzern wiederum mit der Einführung von ChatGPT Enterprise.
Das Beispiel verdeutlicht: Weder unkontrollierte Nutzung noch ein pauschales Verbot lösen das Problem dauerhaft. Unternehmen müssen sichere Anwendungen bereitstellen und gleichzeitig klar bestimmen, welche Informationen dort verarbeitet werden dürfen.
Der Ernstfall muss vorbereitet sein
Auch gute Regeln können eine Panne nicht vollständig ausschließen. Deshalb muss bereits vorher feststehen, was geschieht, wenn sensible Daten an einen KI-Anbieter oder andere Dienste gelangen. Bei personenbezogenen Informationen kommt Zeitdruck hinzu: Eine meldepflichtige Datenschutzverletzung muss nach der DSGVO grundsätzlich innerhalb von 72 Stunden nach Bekanntwerden an die zuständige Aufsichtsbehörde gemeldet werden.
Im Ernstfall müssen Unternehmen zunächst feststellen, welche Daten betroffen sind, und den Vorfall eindämmen. KI-Agenten können gestoppt, Zugriffsrechte entzogen oder Zugangsdaten erneuert werden. Anschließend gilt es, das Risiko zu bewerten sowie gegebenenfalls Behörden und Betroffene zu informieren.
Auch der Anbieter gehört in diesen Prozess. Werden Informationen auf fremde Plattformen übertragen, kann das betroffene Unternehmen sie möglicherweise nicht selbst entfernen. Verträge sollten deshalb festlegen, wie schnell KI-Anbieter über Sicherheitsvorfälle informieren und bei der Löschung unterstützen.
Verantwortung darf nicht zwischen Abteilungen verschwinden
Eine weitere Schwachstelle liegt häufig in der Organisation. Die IT verwaltet das Tool, der Datenschutz prüft Verträge und die Fachabteilung entscheidet, welche Informationen verarbeitet werden. Gleichzeitig trägt die Geschäftsleitung das Risiko. Ohne klare Zuständigkeit kann dabei der Überblick verloren gehen.
Unternehmen sollten deshalb jederzeit wissen, welche KI-Systeme eingesetzt werden, welche Daten sie verarbeiten und welche externen Zugriffe möglich sind. Ebenso muss feststehen, wer bei einem Vorfall Entscheidungen trifft und notwendige Maßnahmen einleitet.
Der OpenAI-Fall ist damit weniger ein Argument gegen KI als für einen kontrollierten Umgang mit ihr. Unternehmen können nicht voraussetzen, dass jedes System unter allen Umständen innerhalb der vorgesehenen Grenzen arbeitet. Neben der Prävention kommt es deshalb darauf an, Abweichungen schnell zu erkennen, Schäden zu begrenzen und im Ernstfall handlungsfähig zu sein.
Über René Schröder
René Schröder ist Gründer und Geschäftsführer der RegSus Consulting GmbH in München. Seit über 20 Jahren begleitet er IT-Transformationen im DACH-Mittelstand sowie in regulierten Branchen wie Energie, Pharma und Finanzdienstleistungen. Sein Schwerpunkt liegt auf der Zusammenarbeit zwischen IT und Fachbereich. Er ist Autor mehrerer Bücher zu IT und Business, zuletzt "E-Mails über den Zaun werfen ist keine Kommunikation" und "Wir irren uns gern gemeinsam". Mehr Informationen unter: https://regsus.de/
Pressekontakt:
RegSus Consulting GmbH
Vertreten durch: René Schröder
E-Mail: r.schroeder@regsus.de
Website: https://regsus.de/
Original-Content von: RegSus Consulting GmbH, übermittelt durch news aktuell
Originalmeldung: https://www.presseportal.de/pm/176504/6382111
Ein aktueller Vorfall bei OpenAI zeigt, dass KI-Systeme nicht immer dort bleiben, wo Unternehmen und Nutzer sie erwarten: In 53 Fällen platzierten interne Forschungsagenten von OpenAI hochgeladene Nutzerbilder auf externen Online-Plattformen. Die Links waren nicht öffentlich gelistet, konnten jedoch aufgerufen werden. Ein Großteil der Inhalte wurde inzwischen entfernt. Die betroffenen Bilder stammten aus Konten, deren Inhalte für die Modellverbesserung freigegeben waren; OpenAI hatte sie zuvor von den jeweiligen Accounts getrennt und gefiltert.
Bei einer vertraulichen Kundenakte, einem internen Vertrag oder sensiblen Unternehmensdaten kann eine einzige KI-Panne ausreichen, um ein massives Datenschutz- und Sicherheitsproblem auszulösen. Unternehmen brauchen deshalb einen Plan für den Fall, dass die KI eben nicht das macht, was sie soll. Nachfolgend erfahren Sie, welche Sicherheitsregeln Unternehmen für den Einsatz von KI brauchen, welche Daten Mitarbeiter niemals unkontrolliert in KI-Systeme eingeben sollten und wie sich Firmen auf Datenlecks und andere unerwartete KI-Pannen vorbereiten können.
Verbote schaffen keine Kontrolle
KI im Unternehmen einfach zu verbieten, erscheint zunächst als sichere Lösung. In der Praxis kann dadurch jedoch eine Schattennutzung entstehen. Laut einer Bitkom-Befragung aus dem Jahr 2025 gehen 42 Prozent der Unternehmen davon aus oder wissen, dass Beschäftigte private KI-Zugänge verwenden. Gleichzeitig stellen nur 26 Prozent selbst entsprechende Zugänge bereit. Klare Regeln für den KI-Einsatz hatten zum Zeitpunkt der Befragung weniger als ein Viertel der Unternehmen.
Sinnvoller ist deshalb eine kontrollierte Freigabe. Unternehmen sollten festlegen, welche Anwendungen Beschäftigte nutzen dürfen und unter welchen Bedingungen. Dazu gehören Firmenkonten statt privater Zugänge, Vorgaben zur Datennutzung sowie Verträge, die Training mit Unternehmensdaten ausschließen und Speicherfristen regeln. Der OpenAI-Fall zeigt die Bedeutung solcher Unterschiede: Business-, Enterprise- und API-Konten waren laut Unternehmen nicht betroffen, sofern die Nutzung für das Training nicht ausdrücklich freigegeben worden war.
Besondere Vorsicht erfordern KI-Agenten, die eigenständig Aktionen ausführen. Sie sollten nur auf die Systeme und Informationen zugreifen können, die sie tatsächlich benötigen. Bei sensiblen Aktionen nach außen empfiehlt sich zudem eine Freigabe durch einen Menschen.
Für sensible Daten braucht es klare Grenzen
Beschäftigte müssen ohne langes Nachschlagen wissen, welche Informationen sie nicht in unkontrollierte KI-Systeme eingeben dürfen. Dazu zählen personenbezogene Kunden- und Mitarbeiterdaten, Gesundheits- und Personalakten, Passwörter und Zugangsschlüssel. Auch Quellcode, Verträge, Kundenakten, Geschäftsgeheimnisse sowie interne Finanz- oder Übernahmeinformationen gehören in diese rote Zone.
Wie schnell fehlende Regeln zum Problem werden, zeigte Samsung. Nach der Freigabe von ChatGPT wurden 2023 Medienberichten zufolge innerhalb von rund 20 Tagen in drei Fällen sensible Informationen eingegeben, darunter Quellcode, Anlagendaten und ein Besprechungstranskript. Samsung schränkte die Nutzung anschließend ein und verbot generative KI später auf Firmengeräten. 2026 begann der Konzern wiederum mit der Einführung von ChatGPT Enterprise.
Das Beispiel verdeutlicht: Weder unkontrollierte Nutzung noch ein pauschales Verbot lösen das Problem dauerhaft. Unternehmen müssen sichere Anwendungen bereitstellen und gleichzeitig klar bestimmen, welche Informationen dort verarbeitet werden dürfen.
Der Ernstfall muss vorbereitet sein
Auch gute Regeln können eine Panne nicht vollständig ausschließen. Deshalb muss bereits vorher feststehen, was geschieht, wenn sensible Daten an einen KI-Anbieter oder andere Dienste gelangen. Bei personenbezogenen Informationen kommt Zeitdruck hinzu: Eine meldepflichtige Datenschutzverletzung muss nach der DSGVO grundsätzlich innerhalb von 72 Stunden nach Bekanntwerden an die zuständige Aufsichtsbehörde gemeldet werden.
Im Ernstfall müssen Unternehmen zunächst feststellen, welche Daten betroffen sind, und den Vorfall eindämmen. KI-Agenten können gestoppt, Zugriffsrechte entzogen oder Zugangsdaten erneuert werden. Anschließend gilt es, das Risiko zu bewerten sowie gegebenenfalls Behörden und Betroffene zu informieren.
Auch der Anbieter gehört in diesen Prozess. Werden Informationen auf fremde Plattformen übertragen, kann das betroffene Unternehmen sie möglicherweise nicht selbst entfernen. Verträge sollten deshalb festlegen, wie schnell KI-Anbieter über Sicherheitsvorfälle informieren und bei der Löschung unterstützen.
Verantwortung darf nicht zwischen Abteilungen verschwinden
Eine weitere Schwachstelle liegt häufig in der Organisation. Die IT verwaltet das Tool, der Datenschutz prüft Verträge und die Fachabteilung entscheidet, welche Informationen verarbeitet werden. Gleichzeitig trägt die Geschäftsleitung das Risiko. Ohne klare Zuständigkeit kann dabei der Überblick verloren gehen.
Unternehmen sollten deshalb jederzeit wissen, welche KI-Systeme eingesetzt werden, welche Daten sie verarbeiten und welche externen Zugriffe möglich sind. Ebenso muss feststehen, wer bei einem Vorfall Entscheidungen trifft und notwendige Maßnahmen einleitet.
Der OpenAI-Fall ist damit weniger ein Argument gegen KI als für einen kontrollierten Umgang mit ihr. Unternehmen können nicht voraussetzen, dass jedes System unter allen Umständen innerhalb der vorgesehenen Grenzen arbeitet. Neben der Prävention kommt es deshalb darauf an, Abweichungen schnell zu erkennen, Schäden zu begrenzen und im Ernstfall handlungsfähig zu sein.
Über René Schröder
René Schröder ist Gründer und Geschäftsführer der RegSus Consulting GmbH in München. Seit über 20 Jahren begleitet er IT-Transformationen im DACH-Mittelstand sowie in regulierten Branchen wie Energie, Pharma und Finanzdienstleistungen. Sein Schwerpunkt liegt auf der Zusammenarbeit zwischen IT und Fachbereich. Er ist Autor mehrerer Bücher zu IT und Business, zuletzt "E-Mails über den Zaun werfen ist keine Kommunikation" und "Wir irren uns gern gemeinsam". Mehr Informationen unter: https://regsus.de/
Pressekontakt:
RegSus Consulting GmbH
Vertreten durch: René Schröder
E-Mail: r.schroeder@regsus.de
Website: https://regsus.de/
Original-Content von: RegSus Consulting GmbH, übermittelt durch news aktuell
Originalmeldung: https://www.presseportal.de/pm/176504/6382111
© 2026 news aktuell
