Aus der Wirtschaft abgeguckt: Mit diesem System sollen sich KI-Agenten endlich an Regeln halten

Es bleibt schwer, das Verhalten von KI-Agenten zu steuern. Sicherheitsexpert:innen bedienen sich daher jetzt an Mechanismen aus ungewöhnlichen Feldern wie den Wirtschaftswissenschaften. Ein neues Sicherheitsverfahren soll leistungsfähige Sprachmodelle endlich besser unter Kontrolle bringen. Die Technik namens "Reverse Game Theory", übersetzt: umgekehrte Spieltheorie, soll bei KI-Systemen bewirken, dass sie sich an Guardrails halten. Bislang gelingt ...

Den vollständigen Artikel lesen ...