Red Teaming: Schwachstellen von KI-Systemen gezielt aufdecken
Red Teaming ist ein strukturierter Test, bei dem ein KI-System gezielt so benutzt wird, wie es nicht benutzt werden soll. Ziel ist, Schwachstellen zu finden, bevor echte Nutzer oder Angreifer sie finden: falsche, schädliche oder diskriminierende Ausgaben, Datenabflüsse oder Wege, die Sicherheitsregeln des Systems zu umgehen. Der Begriff stammt aus Militär und IT-Sicherheit, wo ein…
