Anthropic zeigt: Warum wir den Gedankenketten von Reasoning-Modellen nicht blind vertrauen sollten

Gedankenketten haben das Ziel, die Antworten von KI-Modellen nachvollziehbar zu machen. Ein Test von Anthropic beweist aber: Oft verschweigen Modelle, auf welchen Informationen ihre Antworten basieren. Neben aller Begeisterung gibt es auch immer wieder Kritik an den Kompetenzen und Grenzen von KI-Modellen. Interessanterweise kommt diese inzwischen auch aus den eigenen Reihen: Wie Venturebeat berichtet, warnt das KI-Unternehmen Anthropic in einem ...

Den vollständigen Artikel lesen ...