Der neue Kollege im System: KI-Agenten im Sicherheitscheck

KI-Agenten halten Einzug in Unternehmenssysteme. Sie analysieren Daten, steuern Prozesse und treffen eigenständig Entscheidungen. Was nach Effizienzgewinn klingt, wirft jedoch eine zentrale Frage auf: Wie sicher sind autonome Systeme im Unternehmensnetzwerk?

Künstliche Intelligenz verlässt zunehmend die Experimentierphase. Während viele Unternehmen bisher vor allem mit Chatbots oder generativen KI-Tools gearbeitet haben, rücken nun autonome Systeme in den Fokus: KI-Agenten. Diese können Aufgaben eigenständig ausführen, Entscheidungen vorbereiten und ganze Workflows steuern. Damit verändern sie die Art, wie Automatisierung in Unternehmen umgesetzt wird. KI-Agenten übernehmen zunehmend komplexe Abläufe und agieren dabei wie digitale Teammitglieder innerhalb bestehender IT-Umgebungen. Für Entwicklerinnen und Entwickler bedeutet das eine neue Rolle: Statt jede Funktion selbst zu programmieren, orchestrieren sie Agenten, definieren Regeln und überwachen deren Verhalten.

Trotz grosser Erwartungen steckt der produktive Einsatz vieler KI-Agenten noch in den Anfängen. Studien zeigen, dass zwar zahlreiche Unternehmen mit entsprechenden Anwendungen experimentieren, aber nur ein kleiner Teil der Projekte tatsächlich Produktionsreife erreicht. Die Gründe sind vielfältig: komplexe Integrationen, fehlende Governance-Strukturen und unklare Verantwortlichkeiten. Vor allem aber fehlt vielen Organisationen noch das notwendige Vertrauen in autonome Systeme.

Neue Herausforderungen für Sicherheit und Kontrolle

KI-Agenten haben das Potenzial, Geschäftsprozesse grundlegend zu verändern. Sie automatisieren Abläufe, analysieren Daten und unterstützen Entscheidungen oft schneller und effizienter als klassische Systeme.  Dadurch entstehen neue Anforderungen an Sicherheit und Governance. Denn diese Systeme greifen auf Daten zu, interagieren mit Anwendungen und können eigenständig Aktionen auslösen. Dafür benötigen sie – ähnlich wie menschliche Benutzer:innen – Identitäten, Zugriffsrechte und Zugriff auf Systeme. AI-Infrastrukturen entwickeln sich derzeit nicht nur im Hinblick auf kommende EU-Regulierungen zu einem besonders kritischen Risikobereich. Aus unserer Sicht sind die folgenden Faktoren die wichtigsten Treiber für ein erhöhtes Sicherheitsrisiko:

• AI-Infrastrukturen sind bereits produktiv im Einsatz, werden jedoch selten systematisch auf ihre Sicherheit hin überprüft.
• Chatbots und KI-basierte Systeme sind mittlerweile weit verbreitet und verarbeiten sensible Daten und Geschäftslogik.
• Es gibt nur sehr niedrige Einstiegshürden für die Entwicklung KI-basierter Lösungen.
• KI wird für Analysen, Automatisierung und Entscheidungsfindung eingesetzt.
• Es entstehen neue Angriffsflächen über den gesamten Lebenszyklus von KI- und Agentensystemen hinweg.

In unserer Arbeit mit Unternehmen sehen wir häufig, dass bestehende Identitäts- und Zugriffsmanagementlösungen nicht auf autonome Systeme ausgelegt sind. Zwischen der raschen Einführung von KI-Agenten und der bestehenden Sicherheitsarchitektur entsteht dadurch eine Lücke. Zu den zentralen Fragen gehören:

• Welche Identität besitzt ein KI-Agent im System?
• Auf welche Daten und Anwendungen darf er zugreifen?
• Wie werden seine Aktionen kontrolliert und protokolliert?
• Wer trägt Verantwortung für automatisierte Entscheidungen?

Fehlen klare Regeln und Kontrollen, können autonome Systeme zu einer neuen Angriffsfläche werden.

KI-Agenten sicher in Unternehmen integrieren

Der erfolgreiche Einsatz von KI-Agenten erfordert daher mehr als die Einführung neuer Technologien. Entscheidend ist eine durchdachte Architektur, die Automatisierung, Governance und Sicherheit miteinander verbindet. Vier Punkte sind aus unserer Sicht entscheidend:

• klare Richtlinien für den Einsatz autonomer Systeme
• ein erweitertes Identity- und Access-Management für Agenten
• Transparenz über Datenzugriffe und Entscheidungen
• kontinuierliches Monitoring der Aktivitäten.

Unternehmen, die diese Grundlagen frühzeitig schaffen, können das Potenzial agentenbasierter Systeme nutzen, ohne neue Sicherheitsrisiken einzugehen.

GENESIS bietet Unternehmen eine Sicherheits-Validierung über Offensive Security, das IT-Systeme gezielt mit Methoden wie Penetrationstests, Red Teaming oder Social Engineering prüft. Darüber hinaus unterstützen wir Unternehmen dabei, KI-basierte Automatisierung sicher in bestehende IT-Umgebungen zu integrieren – von der Analyse der Risiken über geeignete Sicherheitsarchitekturen bis zur technischen Umsetzung.