Prompt-injektio
Hyökkäys jossa ulkoinen sisältö ohjaa agenttia toimimaan ohjeiden vastaisesti.
Miksi tällä on merkitystä
Kun agentit käsittelevät ulkoista dataa, haitallinen sisältö voi ohittaa ohjeet.
Käytännössä
Suojaudumme syötteen puhdistuksella, sisältösuodatuksella ja Claude Coden havaitsemisella.