Mobile-Menu

Vom Prompt zum Problem Wie LLMs unbemerkt sensible Unternehmensdaten exponieren

Von Consulteer 3 min Lesedauer

Anbieter zum Thema

FAULHABER SA

Mit dem Einsatz von KI in Unternehmen entstehen auch neue Risiken für die Datensicherheit. Cybersecurity-Experte Julian Richter von Consulteer InCyber beleuchtet diese und erläutert, wie Unternehmen gegensteuern können – und müssen.

(Bild: Consulteer)
(Bild: Consulteer)

Künstliche Intelligenz gilt als der Effizienz-Booster für die Arbeit von heute und morgen. In Form von LLMs, Agenten und KI-gestützten Automatisierungen hat sie Einzug in den Unternehmensalltag gefunden – und wird oft ebenso selbstverständlich wie gedankenlos genutzt: Einfach schnell Kundendokumente in ChatGPT kopieren, um die Sprache zu glätten, den Text zusammenzufassen oder sich Ideen dazu vorschlagen zu lassen. KI findet sich auch in den unterschiedlichsten Tools vom Browser-Plugin bis hin zu Multi-Agenten-Workflows. Mal wird sie in Abstimmung mit der eigenen IT und mit Enterprise-Vertrag genutzt, mal als Shadow-KI ohne Zustimmung der Administratoren. Doch egal, für was und wie KI eingesetzt wird, ein Grundsatz muss dabei immer gelten: When AI decides, Control matters. Denn mit unkontrollierter KI-Nutzung steigt auch das Risiko unbeabsichtigter Datenabflüsse. Neue Angriffsmethoden wie Prompt Injection und manipulierte Agenten zeigen, dass die KI bereits ein eigenes Angriffsfeld ist. Doch das ist sie nicht nur, weil KI-Anwendungen neue Schwachstellen für Angreifer schaffen können, sondern weil diese Anwendungen auch ohne die notwendige Sorgfalt in Hinsicht auf die Cybersecurity eingesetzt werden.

Die KI – das unterschätzte Risiko für die IT-Sicherheit

«Eines der grössten Risiken im KI-Umfeld findet sich im Alltag – jeder unkontrollierte Prompt kann sensible Daten abfliessen lassen», beschreibt Julian Richter das Grundproblem bei der Nutzung von KI in Unternehmen. Julian Richter ist Senior Cybersecurity Engineer bei Consulteer InCyber. Das Schweizer Unternehmen ist ein unabhängiger Managed Security Service Provider und unterstützt seine Kunden dabei, in puncto digitaler Sicherheit immer einen Schritt schneller zu sein als deren Angreifer. In seinem Artikel ‘Wenn KI zur Angriffsfläche wird - Top-Risiken und Schutzmassnahmen’ beschreibt er detailliert, wie KI-Modelle, Agenten und von ihnen genutzte APIs neue Möglichkeiten für gezielte Angriffe und Datenabflüsse bieten. Er sieht die KI-Security nicht als rein technisches Problem, sondern als strategische Pflicht für Unternehmen. Und die beginnt ‘nicht bei der Entwicklung, sondern bei jedem Einsatz im Arbeitsalltag’, konstatiert Urs Binggeli, Head of Managed Security Services bei Consulteer InCyber.

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte