Autor: Brian Letort, Head of Data Office and Platform AI, Digital Realty

IT-Führungskräfte suchen heute nach KI-Lösungen für Unternehmen, die die betriebliche Effizienz steigern, Kosten senken, die strategische Entscheidungsfindung verbessern und die Kundenbindung fördern.

Gartner schätzt, dass bis 2026 über 80 % der Unternehmen generative Künstliche Intelligenz (GenAI) über Programmierschnittstellen (APIs) oder durch die Bereitstellung von KI-Anwendungen genutzt haben werden – ein deutlicher Anstieg gegenüber weniger als 5 % im Jahr 2023. Angesichts der zunehmenden Bedenken hinsichtlich des Datenschutzes benötigen Unternehmen jedoch KI-Lösungen, um ihre Kunden- und Unternehmensdaten und -ressourcen zu schützen.

Private KI (engl. Private AI) bietet diese Lösung. Hier erfahren Sie, was hinter dem Begriff steckt, warum Unternehmen, die sich um den Datenschutz bemühen, davon profitieren und wie IT-Führungskräfte die Einführung von Private AI maximieren können.

Was ist Private AI?

Die heute beliebten GenAI-Modelle wie ChatGPT und Copilot können Unternehmen bei vielen Aufgaben unterstützen, z. B. bei der Datenanalyse, der Interaktion mit Kunden, der Bereitstellung von Output-Matching-Anwendungen und vielem mehr.

Allerdings fehlt bei diesen KI-Modellen die Transparenz darüber, wohin die Daten eines Benutzers gehen oder wie diese Daten verwendet werden, was zu Bedenken hinsichtlich des Datenschutzes führt. Führungskräfte, die GenAI-Modelle einsetzen, sind sich möglicherweise nicht bewusst, dass private, sensible Informationen an Dritte weitergegeben oder für das KI-Training verwendet werden könnten.

IT-Verantwortliche haben jetzt jedoch die Möglichkeit, eine private KI-Architektur zu verwenden, die Abfragen und Anfragen auf die interne Datenbank eines Unternehmens, SharePoint, API oder andere private Quellen beschränkt. Dieser Ansatz beinhaltet oft Retrieval-Augmented Generation (RAG), um sicher mit grossen öffentlichen Modellen zu interagieren und organisationsspezifische, fundierte Antworten zu liefern.

Mit privater KI können Organisationen die Vorteile von KI und grossen Sprachmodellen (Large Language Models, LLM) nutzen und gleichzeitig die Sicherheit ihrer Eingabedaten gewährleisten.

Private KI vs. öffentliche KI

Wir haben einen Wendepunkt erreicht, an dem KI für eine breite Akzeptanz ausgereift genug ist und ihre zunehmende Demokratisierung sowohl die Wirtschaft als auch die Gesellschaft verändert. Wir müssen jedoch über die Möglichkeiten eines KI-Modells hinausblicken und uns damit befassen, wie es trainiert wird, woher seine Daten stammen und wo diese Daten gespeichert sind.

Die heutigen öffentlichen GenAI-Modelle wurden mit öffentlichen Datensätzen trainiert – GPT-3 beispielsweise mit 45 Terabyte Daten aus dem CommonCrawl-Datensatz.¹ Sie werden auch weiterhin mit neuen Daten trainiert, die Benutzer in die Modelle eingeben.

Dies stellt eine Herausforderung für Unternehmen dar, die KI-Initiativen einführen möchten, aber Bedenken haben, ihr geistiges Eigentum und ihre Kundendaten preiszugeben. Die in ein öffentliches KI-Modell eingegebenen Informationen werden dann in einer Datenbank eines Drittanbieters gespeichert und Drittanbietern zur Verfügung gestellt. Führungskräfte sind der Meinung, dass das grösste Risiko bei der Einführung von GenAI in der Ungenauigkeit (56 %) liegt, aber an zweiter Stelle stehen das Cybersicherheitsrisiko (53 %), das Risiko von Verstössen gegen das geistige Eigentum (46 %) und das Risiko für die Privatsphäre von Personen oder Einzelpersonen (39 %).

Firmen, die sich der Bedeutung von Datensicherheit bewusst sind, suchen nach Lösungen, die Privatsphäre, Kontrolle und Effizienz gewährleisten – eine davon sind private KI-Modelle.

Wie Retrieval-augmented Generation (RAG) private KI erleichtert

Die Einführung privater KI bedeutet nicht, dass eine Organisation ihr eigenes internes ChatGPT und die grundlegenden LLMs von Grund auf neu erstellen muss, um ihre Daten privat zu halten. RAG ist darauf ausgelegt, Sicherheit, Compliance, Datenschutz und Datensouveränität bei der Nutzung von KI zu gewährleisten.

Anstatt öffentliche Datensätze abzufragen, fragt ein KI-Modell zunächst die internen Datenbanken, Dokumentbibliotheken und andere Systeminformationen eines Unternehmens ab – wie bei einer Abfrage im Intranet eines Unternehmens. Sobald die KI diese Ergebnisse abgerufen hat, fügt sie sie der Abfrage hinzu und sendet sie an das öffentliche Modell. Mit RAG können Organisationen ihre Daten schützen und verhindern, dass sie öffentlich verwendet werden, während sie gleichzeitig zuverlässige Antworten von komplexen öffentlichen LLMs erhalten.

Organisationen können noch einen Schritt weiter gehen, indem sie ihre eigenen Organisationsdaten an ein öffentliches KI-Modell anhängen und das Modell mit den spezifischen Daten ihres Unternehmens verfeinern. Natürlich ist dies teurer und komplexer als RAG, aber es ist wahrscheinlich eine Option, die Unternehmen in Zukunft nutzen werden.

Warum Unternehmen heute private KI einsetzen sollten

Private AI kann IT-Führungskräften, die neue KI-Lösungen für Unternehmen untersuchen, mehrere Vorteile bieten, darunter:

Datenschutz: Der grösste Vorteil von Private AI ist der Datenschutz, da sie Unternehmen, die Wert auf die Sicherheit sensibler Informationen legen, die Möglichkeit bietet, die Leistungsfähigkeit von KI zu nutzen.
Kontrolle: Private AI bietet mehr Kontrolle darüber, wie Unternehmensdaten verwendet werden, wie auf sie zugegriffen wird und wer auf sie zugreift. Anstatt interne Daten an öffentliche Modelle zu senden, die möglicherweise offengelegt werden, können Unternehmen die Kontrolle über ihre Daten behalten und bei Bedarf Sicherheitsvorkehrungen treffen.
Schnelligkeit und Einfachheit: Durch die Nutzung privater KI können Organisationen interne Backend-Systeme – Datenbanken, Customer Relationship Management (CRM) und Enterprise Resource Planning (ERP) – einfach über eine natürlichsprachliche Schnittstelle abfragen und so durch automatisierte Prozesse schnell und effizient Erkenntnisse und Antworten aus ihren Daten gewinnen.
Einhaltung von Vorschriften: Durch die Kontrolle darüber, wo sich Daten befinden und wie sie verwendet werden, können Unternehmen sicherstellen, dass sie die Datenschutzgesetze und -vorschriften wie die Datenschutz-Grundverordnung (DSGVO), den Health Insurance Portability and Accountability Act (HIPAA) und den California Consumer Privacy Act (CCPA) einhalten.
Kundenvertrauen: Wenn man bedenkt, dass 85 % der Verbraucher die Datenschutzrichtlinien eines Unternehmens kennen möchten, bevor sie einen Kauf tätigen, und 46 % einen Markenwechsel in Betracht ziehen, wenn ein Unternehmen nicht klarstellt, wie es Kundendaten verwendet, können Unternehmen das Kundenvertrauen stärken, indem sie ihren Datenschutz durch private KI verbessern.
Wettbewerbsvorteil: Wenn Unternehmen ihre KI-Fähigkeiten ausbauen, können sie sich einen Wettbewerbsvorteil verschaffen, indem sie Innovationen fördern und das Vertrauen der Kunden stärken. Die Erstellung domainspezifischer grosser Sprachmodelle, die auf internen Daten trainiert werden, kann als sogenannter „Wissens-Hub“ dienen und diesen Vorteil weiter ausbauen.

Wie Unternehmen private KI einführen und skalieren können

Um eine private KI-Infrastruktur optimal aufzubauen, sind einige Vorbereitungen und ein grundlegendes Verständnis nötig. Dazu gehören unter anderem diese ersten Schritte:

Beginnen Sie mit der Datenqualität: IT-Führungskräfte sollten sicherstellen, dass Unternehmensdaten sauber, einheitlich strukturiert und aktuell sind, da KI nur mit hochwertigen Daten effizient arbeitet. Dazu kann es nötig sein, neue Verfahren zur Datenverwaltung und -pflege einzuführen.
Schaffen Sie die richtige Umgebung: 59 % der Führungskräfte geben an, dass sie bei der Vorbereitung ihrer technologischen Infrastruktur auf die Einführung von KI nur mässig, wenig oder gar nicht vorbereitet sind.² Stellen Sie sich KI wie die Cloud vor, die eine erhöhte Rechen-, Netzwerk- und Speicherinfrastruktur erfordert. Die Anforderungen an die Leistungsdichte für KI können bis zu zehnmal höher sein als der Verbrauch herkömmlicher Rechenzentren.

Verwenden Sie eine Hochleistungs-Computing-Infrastruktur (HPC), um KI-Anwendungen auszuführen, insbesondere High-Density-Colocation-Lösungen, die die Anforderungen an Leistung, Sicherheit, Kühlung und Compliance für eine effiziente private KI-Infrastruktur erfüllen können.

Um Bedenken hinsichtlich der Datengravitation zu mindern, sollten Sie einen dezentralen Ansatz für die Edge-Datenverarbeitung wählen. Nutzen Sie einen privaten KI-Austausch über eine globale private Datenstruktur, um Optionen für die Interkonnektivität und den Datentransport zu einem breiteren Ökosystem aus KI-Infrastruktur, Datensätzen, Diensten und Netzwerken zu nutzen.

Wenn IT-Führungskräfte diese Anforderungen an Private AI berücksichtigen, sollten sie sich auch fragen, ob ihre bestehende IT-Infrastruktur diese unterstützen kann, wie sie in bestehende Systeme integriert werden kann und ob sie in neue Plattformen oder Infrastrukturen investieren müssen, um die sich entwickelnden Ambitionen im Bereich Private AI zu unterstützen.
Stellen Sie ein Team zusammen und arbeiten Sie mit Experten zusammen: IT- und Ingenieurteams sammeln und bereiten die Daten für private KI-Angebote vor. IT-Führungskräfte benötigen möglicherweise auch KI- oder Software-Ingenieure, wenn sie das KI-Modell weiterentwickeln, sei es beim Aufbau einer Schnittstelle für Natural Language Processing, einer einfachen Webanwendung oder eines Bots.

Aufgrund des Datenschutzes und der Zugriffsverwaltung sollten Teams für IT-Sicherheit in die Planung einbezogen werden. IT-Führungskräfte sollten bei der Entwicklung ihrer KI-Strategie auch das richtige Ökosystem von Partnern nutzen und extern nach Fachleuten suchen, die sich mit der einzigartigen Infrastruktur auskennen, die KI erfordert.

Vorbereitung auf die Zukunft der KI im Unternehmen

IT-Führungskräfte suchen nach Möglichkeiten, private Daten mit GenAI sicher zu nutzen, sei es für die Textgenerierung, den Kundenservice oder die Analyse und Entscheidungsfindung.

Da KI-Lösungen durch Standard- oder SaaS-Produkte immer weiter verbreitet werden, ist private KI der Weg in die Zukunft für Unternehmen, die dem Datenschutz Priorität einräumen und ihre Vermögenswerte, ihr geistiges Eigentum und ihre Kunden schützen wollen.

Wir erleben die Entwicklung der Unternehmens-KI hautnah mit. Um zu erfahren, wie Sie Ihre IT-Infrastruktur zukunftssicher machen können, lesen Sie unser neuestes Whitepaper: KI für IT-Führungskräfte.

Fussnoten:
1. Brown, T., et al., Language Models are Few-Shot Learners, 22. Juli 2020. https://arxiv.org/pdf/2005.14165.pdf
2. Deloitte LLP, Deloitte's State of Generative AI in the Enterprise Quarter One Report, Januar 2024. https://www2.deloitte.com/content/dam/Deloitte/us/Documents/consulting/us-state-of-gen-ai-report.pdf

Lenovo und Digital Realty: KI für Unternehmensdaten