LLMs brauchen Begleiter: KI-Pionier Vishal Sikka warnt vor alleinigen Modellen

Vishal Sikka, der ehemalige CEO von Infosys und ein führender Name in der KI-Forschung, hat in einem aktuellen Interview betont, dass große Sprachmodelle (LLMs) niemals ohne Unterstützung betrieben werden sollten. Er warnt, dass ein Modell, das allein arbeitet, schnell seine Grenzen erreicht und anfängt, unplausible oder falsche Informationen zu generieren.

Nach Sikkas Aussage sind LLMs durch ihre Rechenkapazität begrenzt. Sobald sie diese Grenzen überschreiten, beginnen sie zu „halluzinieren“ – das heißt, sie produzieren Inhalte, die zwar syntaktisch korrekt, aber faktisch unzutreffend sind. Solche Fehler können in kritischen Anwendungen schwerwiegende Folgen haben.

Um diesem Problem entgegenzuwirken, schlägt Sikka die Einführung von Begleitbots vor. Diese zusätzlichen KI-Systeme würden die Arbeit der Hauptmodelle überwachen, Ergebnisse prüfen und bei Bedarf korrigieren. Auf diese Weise kann die Zuverlässigkeit und Genauigkeit von KI-Anwendungen deutlich gesteigert werden.

Die Idee, LLMs mit verifizierenden Begleitern auszustatten, könnte einen wichtigen Schritt in Richtung vertrauenswürdiger KI markieren. Sie unterstreicht die Notwendigkeit, KI-Modelle nicht isoliert, sondern in einem kontrollierten, kollaborativen Umfeld einzusetzen, um die Risiken von Halluzinationen zu minimieren und die Qualität der Ergebnisse zu sichern.