Der EU AI Act tritt in Kraft

Shaked Reiner, Principal Security Researcher bei CyberArk Labs sagt:

„Auch wenn das neue Gesetz vertrauenswürdige und sichere KI-Praktiken fördert, wird es diese weder technisch durchsetzen noch alle Sicherheitsrisiken beseitigen können. Die neuen Richtlinien bieten wertvolle ethische Orientierung, aber leider werden sich Anbieter nicht immer daran halten. Auch Kriminelle werden immer außerhalb der ethischen und rechtlichen Grenzen agieren. KI-Anwender können sich nicht allein auf rechtliche Rahmenbedingungen verlassen, um sich vor Cyberangriffen zu schützen. Sie können auch nicht vorsichtig genug sein, wenn es um das Vertrauen geht, das sie in die von ihnen genutzten KI-Systeme setzen.

In den Richtlinien von OpenAI heißt es beispielsweise, dass ChatGPT fast alle Informationen der Nutzer sammelt. Damit werden Services gepflegt und verbessert, indem bestehende Modelle verfeinert werden. Aufgrund der komplexen Natur von ChatGPT und unseres oft begrenzten Wissens, warum LLMs im Allgemeinen so funktionieren, wie sie es tun, ist es jedoch fast unmöglich zu erkennen, wie bestimmte Informationen verwendet werden. Diese Undurchsichtigkeit bedeutet, dass OpenAI, obwohl es jetzt dem EU AI Act und den damit verbundenen ethischen Regeln unterliegt, nicht unbedingt vertrauensvoll mit den privaten Daten der Nutzer umgeht. LLMs sind sehr anfällig für Manipulation, daher sollten Nutzer extrem vorsichtig sein und niemals geheime Informationen wie Passwörter, Finanzdaten oder persönliche Identifikatoren weitergeben.“