Prompt Injection

Prompt Injec­tion ist eine Tech­nik, bei der Ein­ga­ben in ein KI-Sys­tem mani­pu­liert wer­den, um uner­wünsch­te oder schäd­li­che Ergeb­nis­se zu erzeu­gen. Dies kann durch das Ein­fü­gen von schäd­li­chem Text in Ein­ga­be­fel­der oder durch geziel­te Mani­pu­la­ti­on von Anwei­sun­gen gesche­hen. Ziel ist es oft, Sicher­heits­me­cha­nis­men zu umge­hen oder ver­trau­li­che Infor­ma­tio­nen zu extra­hie­ren.