Onderzoekers van HiddenLayer hebben een baanbrekende aanvalstechniek ontdekt genaamd ‘EchoGram’. Deze techniek kan de meest gebruikte beveiligingssystemen van Large Language Models (LLM’s) zoals GPT-4, Claude en Gemini omzeilen.
De ontdekking ondermijnt het huidige gevoel van veiligheid rond AI-systemen. Het laat zien dat zelfs de meest geavanceerde modellen kwetsbaar zijn voor nieuwe vormen van aanvallen.
Dit vormt een “wake-up call” voor de AI-industrie, die nu geconfronteerd wordt met de noodzaak om hun beveiligingsmaatregelen te herzien en te versterken.
Lees het volledige artikel Dutch IT Channel:
EchoGram kraakt beveiliging GPT-4 en Gemini.