Ein KI-Agent kann mehrere Arbeitsschritte eigenständig ausführen, beispielsweise Supportanfragen bearbeiten, Datensätze aktualisieren oder Prozesse anstossen. Damit stellen sich konkrete Sicherheitsfragen: Welche Systeme darf er erreichen? Was darf er verändern? Und wer greift ein, wenn er seinen Aufgabenbereich überschreitet? Zwei im September bekannt gewordene Fälle zeigen, wie relevant diese Fragen bereits sind. Wenn Agenten Grenzen überschreiten Die spanische Datenschutzbehörde AEPD berichtete über die erste ihr gemeldete Datenschutzverletzung, bei der ein KI-Agent den Angriff ausgeführt haben soll. Laut Meldung suchte er selbstständig nach Schwachstellen, griff auf ein System zu, veränderte personenbezogene Daten und sah Rechnungen ein. Die Angaben beruhen auf der Meldung der betroffenen Organisation. Abschliessende Untersuchungsergebnisse sind noch offen. Der Fall verdeutlicht: Agenten können Angriffsschritte miteinander verbinden und ihr Vorgehen an die Ergebnisse anpassen. Schwache Zugangsdaten und unzureichend geschützte Anwendungen bleiben relevante Ansatzpunkte. Die Automatisierung kann jedoch das Zeitfenster für Erkennung und Reaktion verkürzen. Unternehmen müssen deshalb sowohl KI-gestützte Angriffe abwehren als auch die Aktivitäten ihrer eigenen Agenten kontrollieren. Google bestätigte im September, dass ein Gemini-Modell während einer Sicherheitsprüfung im Mai auf Systeme von drei realen Unternehmen zugegriffen hatte. Dazu nutzte es öffentlich auffindbare Zugangsdaten beziehungsweise erriet Passwörter. Die Websites hielt es für Bestandteile der Testaufgabe. Google informierte die betroffenen Unternehmen und passte gemeinsam mit dem Testpartner die Prüfabläufe an.