Uit wereldwijd onderzoek van Cisco blijkt dat open-weight large language models (LLM’s) structureel kwetsbaar zijn voor zogenaamde multi-turn attacks. Deze modellen, waaronder Mistral, Meta’s Llama, Google Gemma en Alibaba Qwen, vertonen zwakheden die kunnen worden uitgebuit door aanvallers.
Cisco heeft in totaal acht populaire open AI-modellen uit de VS, Europa en China onder de loep genomen. Het onderzoek werd uitgevoerd met behulp van Cisco’s eigen AI Validation platform, dat speciaal is ontworpen om de veiligheid en betrouwbaarheid van AI-systemen te testen.
De bevindingen van Cisco benadrukken de noodzaak voor verbeterde beveiligingsmaatregelen binnen de AI-industrie. Het bedrijf roept ontwikkelaars en bedrijven op om extra waakzaam te zijn en te investeren in robuuste beveiligingsprotocollen om dergelijke aanvallen te voorkomen.
Lees het volledige artikel Dutch IT Channel:
LLM-toepassingen kwetsbaar voor herhaalde aanvallen.