Immediate-Injection-Angriffe in LLMs
admin Große Sprachmodelle wie ChatGPT und Claude sind darauf ausgelegt, Benutzeranweisungen zu befolgen. Das wahllose Befolgen von Benutzeranweisungen führt jedoch zu einer ernsthaften Schwachstelle. Angreifer können versteckte Befehle einschleusen, um das…