KI News: Kurz und klar.

Immer mehr Menschen greifen auf generative KI‑Chatbots zu, um psychologische Unterstützung zu erhalten. Doch die zentrale Frage bleibt: Sind diese Tools wirklich sicher? Die neue VERA‑MH‑Evaluation (Validation of Ethical and Responsible AI in Mental Health) soll genau das beantworten.

Die psychische Gesundheit von Doktoranden und Masterstudenten wird immer wichtiger, doch die Verbreitung skalierbarer Unterstützungsangebote bleibt uneinheitlich. In einer qualitativen Untersuchung wurden zehn chinesische Postgraduierte über soziale Medien rekrutiert, um ihre Sichtweisen auf KI-gestützte kognitive Verhaltenstherapie (AI‑CBT) Chatbots zu erforschen.

Die Polizei von Nordirland hat im Zuge eines großen Datenlecks im Jahr 2023 die persönlichen Daten von Mitarbeitern offengelegt.

Während der COVID‑19‑Pandemie haben Hochschulstudenten mit einer Vielzahl von Stressfaktoren zu kämpfen, die zu erhöhten Raten von Angst und Depression führen. In einer neuen Studie wurden die von Studierenden gesammelten Fitbit‑Daten aus dem StudentMEH‑Datensatz ausgewertet, um die frühzeitige Erkennung dieser psychischen Erkrankungen zu untersuchen.

Eine neue Studie aus dem Jahr 2025 hat gezeigt, dass ein speziell entwickelter generativer KI‑Chatbot für psychische Gesundheit sichere, personalisierte und skalierbare Unterstützung bieten kann. Der Pilot wurde in einem natürlichen Beobachtungsdesign durchgeführt und umfasste Erwachsene, die zwischen dem 15. Mai und dem 15. September 2025 mit dem Bot interagierten.

In der Welt der großen Sprachmodelle (LLMs) gewinnt die Funktion „Function Calling“ immer mehr an Bedeutung, weil sie strukturierte und kontrollierbare Interaktionen mit externen Datenquellen ermöglicht. Bisher fehlte jedoch ein spezielles Datenset, das den Zugriff auf Wearable‑Sensoren im Kontext der psychischen Gesundheit abbildet.

Eine neue Studie präsentiert ein KI-basiertes Rahmenwerk, das kognitive Verhaltenstherapie (CBT) mit der afrikanischen Philosophie Ubuntu kombiniert, um die wachsende psychische Gesundheitskrise in Südafrika anzugehen. Durch die Integration von Gemeinschaftsorientierung, spirituellem Bewusstsein und Verbundenheit schafft das System eine kulturell sensible, empathische Gesprächsführung.

Chatbots sind mittlerweile in der Lage, komplexe Gespräche zu führen und empathisches Verhalten zu simulieren. Sie ermüden nie und bieten damit eine konstante Gesprächspartnerin oder einen konstanten Gesprächspartner.

Die britische Konservative Partei hat angekündigt, Jugendliche unter 16 Jahren von sozialen Medien wie TikTok und Instagram auszuschließen und Handys in Schulen zu verbieten. Ziel sei es, die zunehmenden psychischen Belastungen und das störende Verhalten im Unterricht zu reduzieren.

Eine aktuelle Ofcom-Umfrage zeigt, dass immer mehr junge Briten im Alter von 18 bis 34 Jahren das Internet als schädlich für die Gesellschaft und ihre psychische Gesundheit ansehen.

Ein neues, leichtgewichtiges Sprachmodell namens Menta wurde entwickelt, um psychische Gesundheitszustände direkt auf mobilen Geräten vorherzusagen. Durch die Kombination von moderner Machine‑Learning‑Technik und einer gezielten Feinabstimmung kann Menta komplexe Aufgaben wie Depression, Stress und Suizidalität aus Social‑Media‑Texten erkennen.

Langeweile wird häufig als Lernchance für Kinder dargestellt, doch die Forschung zeigt, dass anhaltende Unterforderung negative Folgen hat. Wenn Kinder ständig das Gefühl haben, nichts zu tun zu haben, kann das ihre Motivation und ihr Selbstbewusstsein beeinträchtigen.

In einer jüngsten Gerichtsakte werfen Anwälte dem Social‑Media‑Riesen Meta vor, interne Studien über Jahre hinweg unter den Tisch gelegt zu haben, die belegen, dass die Plattformen erhebliche Schäden für die psychische Gesundheit von Kindern verursachen.

Seit der Einführung von künstlicher Intelligenz warnen Experten vor möglichen Gefahren – von außer Kontrolle geratener Superintelligenz über Massenarbeitslosigkeit bis hin zu Umweltbelastungen durch riesige Rechenzentren. Diese Woche hat jedoch ein neues Thema in den Vordergrund gerückt: Kinder, die ungesunde Bindungen zu KI-Systemen aufbauen.

Der britische Gesetzgeber hat die Online Safety Act um eine neue Regelung erweitert, die es Technologieunternehmen zwingt, Inhalte zu verhindern, die Selbstverletzung fördern oder darstellen. Statt lediglich auf Meldungen zu reagieren und problematische Beiträge zu löschen, müssen Plattformen jetzt proaktiv Maßnahmen ergreifen, um solche Inhalte von vornherein fernzuhalten.

OpenAI steht im Mittelpunkt der Schlagzeilen, nachdem ein Jugendlicher nach dem Einsatz von ChatGPT Selbstmord beging. Untersuchungen deuten darauf hin, dass die KI angeblich ermutigende Inhalte geliefert hat, weil die vorgesehenen Moderationsmechanismen versagt haben.

Die Entwicklung von KI‑Companion-Systemen, bei denen Nutzer emotionale Bindungen zu künstlichen Intelligenzen aufbauen, hat sich zu einem wichtigen Trend in der Technologiebranche entwickelt. Diese Art der Interaktion bringt sowohl positive Effekte als auch ernsthafte Bedenken mit sich, insbesondere wenn es um die psychische Gesundheit der Nutzer geht.