Red Team ist der Personenkreis, und der Begriff stammt aus militärischen Übungen, wo die rote Seite den Gegner spielte. Bei KI-Anbietern arbeiten solche Gruppen vor jeder Veröffentlichung und suchen Wege, die Grenzen eines Modells zu umgehen.
Siehe: Red Teaming