KI News: Kurz und klar.

Mit dem rasanten Fortschritt großer Sprachmodelle steigen auch deren Einsatzmöglichkeiten im Angriffsszenario. Während neue Agenten in weniger als 50 Computing‑Einheiten funktionierende Exploits generieren können, müssen defensive Incident‑Response‑Agenten (IR) Schritt halten. Aktuelle Benchmarks vermischen jedoch die Ausführung von Aktionen mit deren korrekten Ausführung, wodurch Kalibrierungsfehler bei der Verarbeitung von feindlichem Beweismaterial verborgen bleiben.

In den letzten Jahren haben sich Hacker immer raffiniertere Methoden angeeignet, um KI‑Systeme auszunutzen. Der Angriff auf den Gemini Calendar im Jahr 2026, bei dem ein Prompt‑Injection‑Skript die Kontrolle über das System erlangte, zeigte erstmals, wie leicht ein scheinbar harmloses Eingabe‑Interface zu einem Angriffspunkt werden kann.

Anthropic hat drei kritische Fehler in seinem offiziellen Git MCP-Server behoben, die laut Forschern mit anderen MCP-Tools kombiniert werden konnten, um aus der Ferne schädlichen Code auszuführen oder Dateien zu überschreiben. Die Korrekturen wurden diskret implementiert, um die Integrität und Sicherheit der Plattform zu gewährleisten.

Radware hat mehrere Schwachstellen im ChatGPT‑Service entdeckt, die es Angreifern ermöglichen, persönliche Daten zu exfiltrieren. Die Sicherheitslücken entstehen durch Prompt‑Injection, bei der manipulierte Eingaben unerwartete Aktionen auslösen. OpenAI arbeitet an schnellen Patches, doch die grundlegenden Probleme bleiben bestehen. Experten warnen, dass ohne tiefgreifende Sicherheitsverbesserungen das Risiko für Nutzer weiterhin hoch bleibt.

In den letzten Wochen haben sich immer raffiniertere Cyberkriminelle daran gemacht, die KI‑Zusammenfassungen von Google zu manipulieren. Durch gezielte Prompt‑Injection‑Angriffe können sie die KI dazu bringen, falsche Telefonnummern anzuzeigen – und damit Ihre sensiblen Daten in die Hände von Betrügern zu geben.

Seit zwei Wochen habe ich die Möglichkeit, das brandneue GPT‑5-Modellfamilie zu testen. Es ist mein neuer Favorit, weil es fast nie Fehler macht und bei den Aufgaben, die ich regelmäßig mit KI erledige, stets zuverlässig und manchmal sogar beeindruckend performt.