Microsoft-Chef warnt: KI-Modelle stehlen heimlich Firmenwissen

Microsoft-Chef Satya Nadella warnt Unternehmen vor dem Verlust von Geschäftsgeheimnissen durch künstliche Intelligenz. Wer externe Sprachmodelle nutzt, zahlt oft doppelt: mit Geld und wertvollem Wissen. Strenge Vertrauensgrenzen sollen helfen.

Gefahr für das Firmenwissen

Microsoft-Chef Satya Nadella warnt Unternehmen davor, bei der Nutzung von künstlicher Intelligenz unwissentlich sensible Geschäftsgeheimnisse preiszugeben. Da immer mehr Betriebe auf generative Textwerkzeuge setzen, steigt das Risiko eines unbemerkten Datenabflusses. Wer große Sprachmodelle mit firmenspezifischen Daten füttert, trainiert oft die Systeme der externen Anbieter. Das führt langfristig zu einem schleichenden Verlust der eigenen Wettbewerbsfähigkeit.

Nadella beschreibt das Phänomen als umgekehrtes Informationsparadoxon. Käufer von KI-Diensten zahlen demnach doppelt. Zuerst entrichten sie finanzielle Gebühren für die reine Nutzung der Schnittstellen oder Webanwendungen. Anschließend zahlen sie mit proprietärem Wissen, das notwendig ist, um die Modelle für den eigenen Betrieb überhaupt nützlich zu machen. Wertvolle interne Daten wandern so direkt zu den Betreibern der Plattformen.


Wie Nadella in einem Blogbeitrag schreibt, lernen die Modelle besonders durch sogenannte digitale Abgase. Dazu gehören die von Mitarbeitern detailliert geschriebenen Eingabeaufforderungen, intern genutzte Werkzeuge und vor allem manuelle Korrekturen an generierten Texten. Jede spezifische Verbesserung durch den Nutzer wird automatisch in neues institutionelles Wissen für den externen KI-Anbieter umgewandelt.

Gleichzeitig kritisiert der Microsoft-Chef die Doppelmoral einiger Entwickler von Basismodellen. Diese berufen sich oft auf faire Nutzungsrechte, um ihre KI-Modelle weitreichend mit öffentlichen Daten aus dem Netz zu trainieren. Im Gegenzug verbieten sie ihren eigenen Kunden jedoch vertraglich oft die sogenannte Destillation. Dabei werden die Ausgaben eines großen Modells genutzt, um ein kleineres, effizienteres System für den internen Gebrauch zu trainieren.

Wege aus der Abhängigkeit

Um den permanenten Abfluss von geistigem Eigentum effektiv zu stoppen, benötigen Firmen eine harte Vertrauensgrenze. Kein einziges Datenfragment darf das Unternehmensnetzwerk ohne ausdrückliche Zustimmung der Verantwortlichen verlassen. Anwender müssen zwingend die vollständige Kontrolle über ihre eigene Lerninfrastruktur behalten, anstatt sich blind auf externe Cloud-Dienste zu verlassen. Nur so bleibt das Fachwissen geschützt, so der CEO des Redmonder Konzerns.

Um das zu erreichen, sollten Organisationen verschiedene Maßnahmen ergreifen: Zunächst ist es wichtig, eigene Evaluierungen zu erstellen, um Qualitätsstandards rein intern zu definieren. Zudem müssen proprietäre Lernumgebungen aufgebaut werden, in denen die Modelle völlig ohne Datenabfluss trainieren. Schließlich hilft es, die Orchestrierungsschicht strikt von einzelnen KI-Modellen zu trennen. Das ermöglicht es den Betrieben, bei Bedarf jederzeit den Anbieter zu wechseln.

Nutzt ihr im Arbeitsalltag bereits KI-Modelle und sorgt euch um den Datenschutz? Wie schützt euer Arbeitgeber sensible Informationen? Teilt eure Erfahrungen in den Kommentaren!


Siehe auch: