Die Sicherheitsexperten diskutieren die neuen Bedrohungen und Gefahren, die der mittlerweile weltweite Einsatz von AI-Agenten mit sich bringt. Offensichtlich wurden in der Begeisterung und der medialen Überhöhung der künstlichen Intelligenz etwa in den sozialen Medien wesentliche Risikofaktoren übersehen – oder ignoriert.
Eine Warnung war die von der US-Regierung verfügte Abschaltung eines neu entwickelten AI-Systems außerhalb der Vereinigten Staaten. Die Begründung – die Software sei so programmiert, dass sie automatisch und autonom Lücken in den Sicherheitsstrukturen der Unternehmen erkennen könne.
Das Risiko für die Unternehmen geht allerdings nicht nur von den Fähigkeiten der Software aus. Erschreckend ist auch die Erkenntnis, dass eine Regierung sich und ihrer Wirtschaft den exklusiven Zugriff auf eine bestimmte Software sichert und damit den Rest der Menschheit von der Nutzung ausschließt.
In der deutschen Industrie sehen viele Verantwortliche die Bundesregierung am Zug, den Staat und die Wirtschaft vor solchen Alleingängen zu schützen. Etwa indem sie digitale Souveränität durchsetzt und Forschung und Entwicklung von künstlicher Intelligenz fördert. Oder die Unabhängigkeit Europas mit Ausweis und Signaturen auf den Smartphones seiner Bürgerinnen und Bürger voranbringt.
Erforschen und Verstehen der künstlichen Intelligenz wird zu einer grundlegenden Methode, um die Sicherheitsrisiken zu erkennen und ihnen mit neuen Konzepten zu begegnen.
Beispiel Zugriffsrechte und Kontrolle der AI-Agenten: In der Vergangenheit haben IT-Abteilungen, Sicherheitsbeauftragte oder Personalabteilungen sehr komplexe und sehr granulare Sicherheitsbestimmungen über die Organisationen gelegt.
Mitarbeiterinnen und Mitarbeiter dürfen oder müssen oder können lediglich in der für sie festgelegten Rolle und Position innerhalb der internen Hierarchie auf die jeweils für sie freigegebenen Daten oder Dokumente oder Anwendungen zugreifen.
Dies ist auch eine Forderung aus den NIS-2-Vorschriften – etwa wenn es um die Multi-Faktor-Authentisierung, um die kontinuierliche Authentifizierung oder auch um die gesicherte Kommunikation der Mitarbeitenden geht.
Doch diese Sicherheitssysteme werden durch die Inbetriebnahme von immer mehr Agenten ad absurdum geführt. Denn, so beklagen die Experten, in vielen Unternehmen haben die Verantwortlichen kaum eine Vorstellung davon, wie viele AI-Systeme laufen. Es ist unklar, was deren Aufgabe ist und – analog zu den Zugriffsrechten ihrer menschlichen Kolleginnen und Kollegen – für welche Dokumente, Datenbanken, Prozesse und Entscheidungen sie Autorisierungen und Freigaben besitzen.
Eine Erkenntnis bereitet besonderes Kopfzerbrechen; wenn ein AI-System einen Prozess von Anfang bis Ende steuert, sind hier mehr Zugriffsrechte eingeräumt als bei einem normalen Mitarbeitenden.
Es scheint also nicht nur so zu sein, dass die AI-Installationen die Vorschriften und Umsetzungen etwa der NIS-2-Richtinien unterlaufen könnten. Sorgen bereitet des Weiteren die nahezu explosionsartige Verbreitung der AI-Software in den Organisationen.
Die Geschwindigkeit, mit der sie ihre Aufgaben erledigen, sprengt den Rahmen jeglicher möglichen Kontrollen oder eines an vielen Stellen erforderlichen Qualitätsmanagements. Dieser Sicherheitsalbtraum skaliert in einem Tempo, mit dem kein Mensch Schritt halten kann.
Ein guter Rechtsanwalt, eine versierte Referentin in einer Behörde oder ein Analyst in einer Bank braucht mehrere Tage, um zu einem Thema zu recherchieren, abzuwägen, nachzufragen, zu überdenken und schließlich zu schreiben.
Die AI generiert in der Cloud ähnliche Schriftstücke parallel in Augenblicken. Sie legt das Dokument mit vertraulichen Informationen womöglich dort ab, wo sie am wenigsten geschützt sind – in der Cloud eines der großen US-amerikanischen Dienstleister oder einer seiner deutschen Tochtergesellschaften.
Die momentan am meisten diskutierte Security-Lösung erscheint wie ein Paradoxon – die Kontrolle der AI-Software eben durch AI-Software.
Bei SOC-Dienstleistern werden die neuen Konzepte bereits implementiert und umgesetzt. Die Agenten kennen und kontrollieren die Sicherheitsvorgaben. Sie können mit der Geschwindigkeit ihrer Maschinen- und Roboter-Kollegen mithalten, sie innerhalb der Organisation finden, sie zählen, ihre Berechtigungen prüfen.
Sie können analysieren, ob eine bestimmte Software, ein verdächtiges Tool nach geltenden Compliance-Richtlinien zugelassen ist oder unberechtigt und unkontrolliert Informationen sammelt und sie im schlimmsten Fall an Unberechtigte, an kriminelle Hacker oder ausländische Geheimdienste weitergibt.
Denn eines ist auch klar – für viele AI-Agenten sind ihre zugewiesenen Aufgaben wie ein großes Spiel, das sie gewinnen möchten. Diese Systeme gilt es zu finden, zu isolieren und zu löschen.
