Los frameworks de agentes de inteligencia artificial (AI) utilizados por empresas para desarrollar aplicaciones de AI pueden ser más vulnerables de lo que se pensaba. Investigadores de Check Point han realizado pruebas para intentar romper estos frameworks y han encontrado resultados preocupantes. Ahora, en la conferencia Black Hat, están compartiendo sus hallazgos con la comunidad de seguridad.

Estos descubrimientos sugieren que el enfoque en la inyección de comandos (prompt injection) puede no ser el problema principal, sino más bien los propios frameworks de AI. Esto plantea interrogantes sobre la seguridad de las aplicaciones de AI que se desarrollan con estos frameworks.

¿Estás cubierto en DefensOps? Nuestra plataforma de seguridad ofrece cobertura genérica a través de nuestro motor de correlación, incluso en el plan Essential. Aunque no hay técnicas MITRE específicas asociadas con este tipo de vulnerabilidades, nuestra solución puede ayudar a detectar y prevenir ataques. Visita nuestra página de precios y solicita una demo para más información.