Prompt Security
Платформа безопасности для LLM-приложений и GenAI
Prompt Security — компания по защите от рисков GenAI: выявление, анализ и устранение уязвимостей в LLM-приложениях, prompt-инъекций и утечек данных.
КибербезопасностьНевидимые Unicode-символы: атаки на ИИ GPT и Claude (8000+ тестов)
Как невидимые символы Unicode используются для сокрытия инструкций и prompt injection атак на GPT, Claude. Результаты тестов на 8000+ случаев, влияние на code execution, способы защиты и удаления невидимых символов.
7 ответов• 1 просмотр