KI mit Selbstzweifel: Wie Modelle entscheiden, wann sie besser nicht antworten

Eine neue Studie zeigt, welche Rolle das interne Konfidenzniveau spielt. Je höher es ist, desto eher verzichten sie darauf, eine Antwort zu liefern. Vor allem für KI-Agenten ist das eine wichtige Erkenntnis. Sprachmodelle präsentieren ihre Antworten oft mit großer Selbstsicherheit, auch wenn diese nicht der Wahrheit entsprechen. Das erschwert es Nutzer:innen, deren Verlässlichkeit einzuschätzen. Gerade mit Blick auf autonome KI-Agenten ist es wichtig, ...

Den vollständigen Artikel lesen ...