Mächtig, allgegenwärtig und verwundbar gefährlich
Einige der am weitest verbreiteten KI-Agenten und KI-Assistenten von Microsoft, Google, OpenAI und anderen großen Unternehmen sind anfällig dafür, mit wenig oder gar keiner Benutzerinteraktion gekapert zu werden, so eine neue Studie von Zenity Labs. Während einer Präsentation auf der Cybersicherheitskonferenz Black Hat in den USA zeigten Zenity-Forscher, wie Hacker Daten exfiltrieren, kritische Arbeitsabläufe in Zielunternehmen manipulieren und sich in einigen Fällen sogar als Benutzer ausgeben können. Neben der Infiltration dieser Agenten, so die Forscher, könnten Angreifer auch eine Speicherpersistenz erlangen, die es ihnen ermöglicht, langfristig Zugriff und Kontrolle aufrechtzuerhalten.
https://zenity.io/research/agentflayer-vulnerabilities
https://edition.cnn.com/2023/07/11/tech/google-ai-lawsuit/
https://www.ibm.com/think/insights/hidden-risk-shadow-data-ai-higher-costs
https://www.egair.eu