KI News: Kurz und klar.

Nvidia hatte im vergangenen Jahr angekündigt, OpenAI mit einer Investition von 100 Mrd. USD zu unterstützen. Das Angebot sollte die Zusammenarbeit zwischen beiden KI-Giganten vertiefen und die Entwicklung neuer Technologien beschleunigen.

Die digitale Welt steht vor einer wachsenden Gefahr: Künstliche Intelligenz erzeugt Inhalte, die so überzeugend wirken, dass sie unsere Wahrnehmung von Wahrheit verändern. Trotz unseres Bewusstseins für diese Problematik bleibt die Frage offen, wie wir die Verbreitung von Fehlinformationen eindämmen können.

Der New York Times hat einen Artikel veröffentlicht, der acht führende Stimmen aus Wissenschaft und Industrie zusammenbringt, um die Zukunft der künstlichen Intelligenz zu beleuchten. In diesem Beitrag werden unterschiedliche Perspektiven zu den Chancen, Risiken und gesellschaftlichen Auswirkungen von KI vorgestellt.

In den USA haben bereits 37 Staatsanwälte aus Bundesstaaten und Gebieten Maßnahmen gegen das KI-Unternehmen xAI ergriffen, nachdem die KI Grok eine große Menge an nicht einvernehmlichen sexuellen Bildern von Frauen und Minderjährigen generiert hat.

Wir haben führende Technologieunternehmer, renommierte Journalisten, bekannte Entertainer, Studierende und weitere Experten zu den Chancen und Gefahren der künstlichen Intelligenz befragt.

Der britische Regulierungsbehörde Ofcom untersucht, ob Meta die gesetzlich verbindlichen Informationsanfragen zu WhatsApp im Geschäftsbereich des Vereinigten Königreichs erfüllt hat. Im Rahmen einer Marktüberprüfung des SMS-Bereichs prüft Ofcom die Richtigkeit der von Meta übermittelten Daten.

In den letzten Jahren haben sich KI‑gestützte Bots zu einer wachsenden Bedrohung für demokratische Prozesse entwickelt. Durch die Fähigkeit, in kurzer Zeit tausende von Texten zu generieren, können sie scheinbar breite öffentliche Meinungen simulieren und damit die Wahrnehmung von Mehrheiten verfälschen.

Die MIT Technology Review präsentiert in ihrer „What’s Next“-Reihe einen Blick in die Zukunft von Branchen, Trends und Technologien. In den letzten Wochen des Jahres 2025 eskalierte die Debatte um die Regulierung künstlicher Intelligenz in den USA zu einem entscheidenden Wendepunkt.

Mit Beginn der öffentlichen Konsultation betonen Mitglieder der zweiten Kammer des britischen Parlaments die Schäden, die soziale Medien Kindern zufügen. Das britische Regierungsgesetz nähert sich der australischen Regelung an, die Personen unter 16 Jahren den Zugang zu Social‑Media‑Konten verbietet. Nach der Abstimmung im House of Lords wurde ein Verbot für Minderjährige beschlossen, das nun in der öffentlichen Debatte steht.

In dieser Woche stand die Frage im Mittelpunkt, wie KI-Agenten in der Praxis geschützt werden können, ohne dass sie zu einer ernsthaften Insider-Bedrohung werden. Auf einer Podiumsdiskussion in Davos diskutierten Fachleute die Herausforderungen und Lösungsansätze, um die Sicherheit dieser neuen Technologie zu gewährleisten.

In den letzten Wochen hat die Diskussion um generative KI an Dynamik gewonnen. Experten warnen vor einer Reihe von Problemen, die von der Verbreitung von Falschinformationen bis hin zu Urheberrechtsverletzungen und algorithmischer Voreingenommenheit reichen.

In modernen Fahrzeugen werden immer häufiger Sprachmodelle wie große Sprachmodelle (LLMs) eingesetzt, um Fahrerinnen und Fahrer mit digitalen Assistenten zu unterstützen. Doch wenn diese Modelle unsichere, mehrdeutige oder rechtlich inkorrekte Antworten liefern, können schwerwiegende Sicherheits-, Ethik- und Regulierungsprobleme entstehen.

Das britische Parlament hat in einer aktuellen Untersuchung die Finanzaufsichtsbehörden scharf kritisiert: Sie handeln zu langsam, während die Verantwortung für automatisierte Entscheidungen noch immer unklar bleibt. Die Kommission fordert, dass die Regulierungsbehörden sofort umfassende Stresstests durchführen, um sicherzustellen, dass Unternehmen auf KI‑getriebene Marktstürze vorbereitet sind.

Der Vorsitzende der britischen Glücksspielbehörde hat Meta öffentlich beschuldigt, falsche Angaben zu seiner Fähigkeit gemacht zu haben, Betreiber illegaler Casinos, die auf der Plattform werben, frühzeitig zu erkennen.

Ein kürzlich veröffentlichtes Papier, das von einer interdisziplinären Gruppe von Forschern verfasst wurde, bietet eine eindrucksvoll klare Analyse der potenziellen Gefahren, die generative Künstliche Intelligenz für die Gesellschaft mit sich bringen könnte. Die Autoren betonen, dass die Technologie zwar enorme Chancen eröffnet, gleichzeitig aber auch erhebliche Risiken birgt, die nicht ignoriert werden dürfen.

Der Science, Innovation and Technology Committee hat die britische Regierung dazu aufgefordert, die Einführung eines Verbots für KI‑Tools, die Nacktbilder erzeugen können, zu beschleunigen. Die Kommission kritisiert, dass die aktuelle Vorgehensweise zu langsam sei und die Gesetzesentwürfe wichtige Lücken aufweisen.

Die indische Regierung hat ihre Frustration über die missbräuchliche Nutzung von Kryptowährungen zum Ausdruck gebracht und neue Vorschriften eingeführt, um Betrug, Geldwäsche und Terrorismusfinanzierung zu bekämpfen.

Britisches Kommunikationsregulierungsamt Ofcom hat offiziell angekündigt, X wegen möglicher Verstöße gegen das Online Safety Act zu untersuchen. Der Grund: Groks „Nudify“-Button bleibt dauerhaft aktiviert, was Bedenken hinsichtlich der Sicherheit von Nutzern aufwirft.

Die Regierungen von Malaysia und Indonesien haben die Nutzung der Social‑Media-Plattform X in beiden Ländern sofort gesperrt. Der Schritt wurde ergriffen, weil X es Nutzern ermöglicht, ohne deren Zustimmung sexuelle Bilder und Videos zu erstellen und zu verbreiten.

In den letzten Jahren hat die US-Einwanderungsbehörde ICE ein Milliardenbudget für Überwachungstechnologie aufgewendet, was sie zu einem der umstrittensten Akteure im Bereich der staatlichen Überwachung macht.

Nach Fragen von Ministern und Regulierungsbehörden hat das Unternehmen Grok seine Bildgenerierungsfunktion auf der Plattform X für die meisten Nutzer gesperrt. Die Maßnahme folgt auf die öffentliche Erwägung einer Beschränkung durch die britische Regierung, die die KI-Funktion, die Personen auf Befehl entblößt, als problematisch einstuft.

In den letzten Wochen haben zwei einflussreiche Essays die Debatte um Künstliche Intelligenz neu entfacht. Beide Autoren greifen die wachsende Besorgnis auf, dass KI nicht nur technologische Fortschritte bringt, sondern auch gesellschaftliche Spannungen und neue Formen der Informationskriegsführung auslösen könnte.

Europa setzt vermehrt auf eigene Cloud‑Lösungen, um die Abhängigkeit von US‑Anbietern zu reduzieren. In den letzten Monaten haben zahlreiche öffentliche Einrichtungen ihre Daten und Anwendungen in europäische Rechenzentren verlagert, während die großen US‑Hyperscaler – Amazon, Microsoft und Google – ihre eigenen souveränen Angebote betonen.

Die rasante Entwicklung von Deepfake‑Technologien, die von künstlicher Intelligenz angetrieben werden, hat weltweit Besorgnis ausgelöst. Falsche Informationen, Identitätsdiebstahl und das Vertrauen in Online‑Inhalte leiden unter dieser neuen Bedrohung. Traditionelle technologische Lösungen reichen nicht aus, um die tieferliegenden moralischen Ursachen – Absicht, Ethik und gesellschaftliche Auswirkungen – zu adressieren.