Wie Sie Schatten-KI mit Microsoft Purview und Defender for Cloud Apps angehen

Im ersten Artikel dieser Serie haben wir die Risiken erkundet, denen Unternehmen ausgesetzt sind, wenn Microsoft Purview nicht vollständig ausgeschöpft wird – insbesondere wenn sensible Daten ungeschützt bleiben. Im zweiten Artikel haben wir die Schritte zum Schutz Ihrer Daten mit Purview durchgegangen, wie z.B. das Auffinden Ihrer Daten, deren Klassifizierung und Schutz sowie die Einführung Ihrer Vertraulichkeitsbezeichnungen in Ihrem Unternehmen.

In diesem abschließenden Teil werde ich einen wachsenden blinden Fleck beim Thema sensible Daten diskutieren: Shadow AI.

Mitarbeiter nutzen zunehmend generative KI-Tools, um schneller und effizienter zu arbeiten. Die Absicht ist selten böswillig. Aber das Ergebnis kann riskant sein: Sensible Unternehmensdaten verlassen Microsoft 365 durch Tools, die nie überprüft, genehmigt oder verwaltet wurden.

In diesem Artikel erkläre ich, was Shadow AI ist, warum es so schwer zu kontrollieren ist und wie Sie Microsoft Purview und Defender for Cloud Apps verwenden können, um dessen Auswirkungen zu erkennen, zu bewerten und zu reduzieren.

Was ist Shadow AI?

Shadow AI bezieht sich auf generative KI-Tools, die Mitarbeiter ohne formelle Genehmigung der IT-, Sicherheits- oder Compliance-Teams verwenden.

Diese Tools umfassen oft:

• Öffentliche KI-Chatbots
• KI-gestützte Recherche- oder Schreibassistenten
• Browser-basierte generative KI-Services

Aus Nutzersicht sind diese Tools leicht zugänglich und sehr effektiv. Aber aus Unternehmenssicht bringen sie Herausforderungen mit sich:

• Sie wissen nicht, welche Tools verwendet werden
• Sie wissen nicht, wer sie verwendet
• Sie wissen nicht, welche Daten geteilt werden
• Sie können Sicherheit, Compliance oder Datenresidenz nicht garantieren

Sogar gut gemeinte Nutzer können unwissentlich sensible Daten wie Verträge, Kundendetails und interne Dokumente in KI-Tools einfügen, die Daten außerhalb der Kontrolle Ihres Unternehmens speichern oder verarbeiten.

Hier kommen Microsoft Purview und Defender for Cloud Apps ins Spiel.

‍

Warum Shadow AI schwer zu eliminieren ist (aber kontrollierbar)

Shadow AI vollständig zu verhindern ist unmöglich. Mitarbeiter werden weiterhin nach Tools suchen, die ihnen helfen, schneller zu arbeiten.

Das Ziel ist also nicht die vollständige Verhinderung, sondern die Risikominimierung.  

• Verstehen Sie, welche KI-Tools verwendet werden
• Bewerten Sie deren Risiko
• Führen Sie Mitarbeiter zu sichereren Alternativen
• Blockieren Sie Tools, die eindeutig gegen Ihre Richtlinien verstoßen

Microsoft bietet Sichtbarkeit und Kontrollen, die Ihnen helfen, diese Schritte strukturiert zu gehen. Schauen wir uns das an.

Wie Sie Shadow AI mit Microsoft Purview und Defender for Cloud Apps angehen

Schritt 1: Generative KI-Apps in Ihrem Unternehmen finden

Der erste Schritt bei der Verwaltung von Shadow AI ist die Sichtbarkeit.

Beginnen Sie mit der Erstellung eines Inventars aller generativen KI-Tools, auf die Mitarbeiter in Ihrem Unternehmen zugreifen und die sie verwenden.  

• Gehen Sie zum Microsoft-Sicherheitsportal: https://security.microsoft.com
• Klicken Sie auf Cloud Discovery. Hier können Sie entdeckte Apps nach Kategorien filtern, einschließlich generativer KI.

• Klicken Sie auf der Cloud Discovery-Seite auf Discovered Apps. Wählen Sie dann die Kategorie Generative KI und sortieren Sie die Ergebnisse nach Users.

In dieser Phase ist es sinnvoll:

• Die Ergebnisse für weitere Analysen zu exportieren
• Sich auf externe generative KI-Apps zu konzentrieren
• Microsoft Copilot-bezogene Services auszuschließen, die bereits in Ihrem Tenant verwaltet werden

Dieses Inventar wird zur Grundlage für jede nachfolgende Entscheidung.

Schritt 2: Das Risiko jeder generativen KI-App bewerten

Der nächste Schritt hängt von Ihren Sicherheits-, Risiko- und Compliance-Richtlinien ab. Jede entdeckte App in Defender for Cloud Apps enthält eine Cloud-App-Risikobewertung.

Zum Beispiel hat Scite einen Cloud-App-Score von 5/10. Der Score basiert auf vier Schlüsselkategorien:

Kategorie 1: Allgemeine Informationen

Im General-Tab sehen Sie grundlegende Informationen wie den Standort des Anbieters, die Domain und die operative Reife. Diese Felder sollen auf einfachster Ebene die Stabilität des Unternehmens zeigen.  

Zum Beispiel befindet sich Scites Rechenzentrum in den USA. Für viele Unternehmen, insbesondere in regulierten Branchen oder Regionen wie der Europäischen Union, kann allein die Datenresidenz ein Ausschlusskriterium sein.

Kategorie 2: Sicherheitskontrollen

Der Security-Tab hebt hervor, ob die App grundlegende Sicherheitspraktiken wie Multi-Faktor-Authentifizierung, Verschlüsselung, Datenklassifizierung und Dateneigentum unterstützt.  

Sie müssen entscheiden, welche Sicherheitskontrollen ein potenzielles Problem darstellen. Für viele Unternehmen kann bereits das Fehlen einer Multi-Faktor-Authentifizierung ausreichen, um zu entscheiden, dass eine App nicht geeignet ist.

Kategorie 3: Compliance-Standards

Der Compliance-Bereich zeigt, mit welchen Compliance-Frameworks der Anbieter übereinstimmt, wie HIPAA, PCI-DSS oder CSA. Wenn eine App nicht mit Standards übereinstimmt, auf die Ihr Unternehmen angewiesen ist, steigt das Risiko. In diesem Beispiel sehen die Dinge nicht besonders gut aus.

Kategorie 4: Rechtliche und Datenschutzbestimmungen

Im Legal-Tab finden Sie Informationen über Datenspeicherung, Datenschutzrichtlinien und regulatorische Schutzmaßnahmen. Diese Faktoren sind kritisch, wenn sensible oder regulierte Daten betroffen sind.

Microsoft macht deutlich, dass diese Scores Indikatoren sind, keine Urteile. Endgültige Entscheidungen sollten gemeinsam von Sicherheits-, Risiko- und Compliance-Stakeholdern basierend auf Unternehmensrichtlinien getroffen werden.

‍

Schritt 3: Verstehen Sie, wer jede KI-App verwendet und warum

Bevor Sie externe generative KI-Apps blockieren, sprechen Sie mit den Personen, die sie verwenden.

In den meisten Fällen versuchen Menschen einfach, ihre Arbeit schneller zu erledigen. Das Blockieren von Tools ohne zu verstehen, warum sie verwendet werden, führt oft zu Frustration – und Nutzer werden einfach nach Alternativen suchen.

Wir empfehlen dringend, Ihre Kollegen zu kontaktieren, bevor Sie beginnen, externe generative KI-Apps zu blockieren.  

In der Cloud App Usage-Ansicht können Sie die Nutzer hinter jeder App identifizieren und verstehen, wie häufig auf diese Tools zugegriffen wird.

Exportieren Sie diese Informationen und beginnen Sie ein Gespräch.

Fragen Sie Nutzer, wofür sie das Tool verwenden und welches Problem es ihnen löst. In vielen Fällen werden Sie feststellen, dass Microsoft Copilot bereits die gleichen Anwendungsfälle ohne die gleichen Datenschutzrisiken unterstützen kann.

Wenn Nutzer verstehen, warum ein Tool eingestellt wird und was sie stattdessen verwenden können, wird die Adoption sichererer, genehmigter KI viel einfacher.

Schritt 4: Shadow AI-Apps blockieren, die Ihre Richtlinien nicht erfüllen

Sobald Nutzer eine sichere Alternative haben – wie Microsoft Copilot – wird es viel einfacher, Maßnahmen zu ergreifen.

An diesem Punkt können Sie beginnen, externe generative KI-Apps zu blockieren, die nicht mit Ihren Sicherheits-, Risiko- oder Compliance-