Google zieht Gemma zurück, nachdem US-Senator Modell fälschlich beschuldigt hat

Google hat das KI-Modell Gemma aus seiner AI Studio-Plattform zurückgezogen, nachdem das System fälschlicherweise Verbrechen gegen einen US-Senator und einen konservativen Aktivisten beschuldigt hatte. Obwohl Gemma noch über die API verfügbar war, war es nicht für allgemeine Fragen ausgelegt. Die Entwicklerseite hat die problematische Ausgabe sofort als „halluziniert“ eingestuft und reagiert. Die betroffenen Personen haben aktiv dafür gesorgt, dass die fehlerhafte Ausgabe öffentlich bekannt wurde. Google arbeitet nun an Maßnahmen, um solche Vorfälle künftig zu verhindern.