Un reciente experimento ha puesto de relieve la vulnerabilidad de los modelos de inteligencia artificial de código abierto. Un investigador ha logrado 'envenenar' uno de estos modelos por una cantidad inferior a $100, lo que genera preocupación sobre la confiabilidad de esta tecnología. Los modelos de IA requieren confianza, pero a menudo no ofrecen mecanismos de verificación adecuados.

Este tipo de ataques puede tener implicaciones significativas, ya que los modelos de IA se utilizan cada vez más en diversas aplicaciones. La capacidad de 'envenenar' un modelo de IA de manera económica y sencilla plantea dudas sobre la seguridad y la fiabilidad de estos sistemas.

¿Estás cubierto en DefensOps? Nuestra plataforma ofrece cobertura genérica a través de nuestro motor de correlación, incluso en el plan Essential. Aunque no hay técnicas MITRE específicas asociadas con este tipo de ataques, nuestra solución puede ayudar a detectar anomalías en el comportamiento de los sistemas. Visita nuestra página de precios o solicita una demo para conocer más sobre cómo podemos ayudarte a proteger tus sistemas.