Google Gemini: Bildskalierung hackt KI – Sicherheitsforscher warnen

Google’s Gemini‑Tools sind durch eine Bildskalierungsschwachstelle gefährdet – Sicherheitsforscher aus Trail of Bits haben die Lücke aufgedeckt.

Die Forscher zeigten, dass die Gemini‑CLI und weitere produktive KI‑Systeme durch gezielte Skalierung von Bildern manipuliert werden können.

Durch das Verändern der Bildgröße werden bekannte adversariale Muster erzeugt, die die Sicherheitsfilter umgehen und dem Modell falsche Anweisungen einbringen.

Das Ergebnis: Angreifer könnten mit dieser Technik schädliche Befehle in die KI einschleusen und damit die Integrität der Systeme gefährden.

Google wird aufgefordert, die Sicherheitsmechanismen zu überarbeiten und die Skalierungsschwachstelle umgehend zu beheben.