Neuer Ansatz: Nearest-Neighbor-Methoden für KI ohne Halluzinationen
Moderne neuronale Netzwerke, darunter große Sprachmodelle, haben in vielen Anwendungen beeindruckende Ergebnisse erzielt. Sie stoßen jedoch an fundamentale Grenzen: Halluzinationen, enorme Rechenkosten beim Training und Inferenz, aufwendiges Feintuning und das Problem des katastrophalen Vergessens. Diese Einschränkungen behindern die Nutzung von KI in kritischen Bereichen wie Medizin, Industrie und Forschung.
In dem neuen Beitrag wird ein alternativer Ansatz vorgestellt, der auf dem k‑Nearest‑Neighbors‑Algorithmus mit hierarchischen Clustering‑Strukturen basiert. Durch die Nutzung von k‑NN lassen sich Halluzinationen drastisch reduzieren oder sogar eliminieren, während die Erweiterung und das Feintuning des Modells ohne vollständiges Retraining möglich werden.
Um die bisher hohe Rechenlast des k‑NN-Ansatzes zu verringern, schlägt die Arbeit den Einsatz baumartiger Datenstrukturen vor, die auf Kohonen‑Selbstorganisierenden Karten beruhen. Diese Strukturen beschleunigen die Nachbarschaftssuche erheblich und ermöglichen eine viel schnellere Verarbeitung.
Experimentelle Tests an Aufgaben wie Handschriftenerkennung und einfacher Untertitelübersetzung zeigen, dass die vorgeschlagene Methode mit nur geringfügig reduzierter Genauigkeit die Suchzeit im Vergleich zu vollständigen Durchsuchungen um mehrere hundertfach verkürzt. Gleichzeitig bietet sie hohe Transparenz und Interpretierbarkeit, was sie besonders für Anwendungen mit hohen Zuverlässigkeitsanforderungen attraktiv macht.