Un equipo de investigadores ha descubierto una debilidad significativa en la forma en que OpenAI, Anthropic y Google manejan la lógica oculta de sus modelos de inteligencia artificial entre llamadas a sus API. Esta falla permite a modelos de AI más débiles descifrar la lógica de modelos más fuertes, lo que plantea serias preocupaciones sobre la seguridad y la privacidad de la información manejada por estas plataformas. La vulnerabilidad se debe a la manera en que los objetos de razonamiento cifrados son utilizados por las API de razonamiento de los proveedores, permitiendo que un bloque creado en una sesión pueda ser reproducido en otra, lo que facilita la recuperación de información confidencial, incluyendo claves de API y contraseñas.

La importancia de esta falla radica en la capacidad de los atacantes para acceder a información sensible que debería estar protegida. Esto subraya la necesidad de revisar y fortalecer las medidas de seguridad en torno a la inteligencia artificial y sus aplicaciones.

¿Estás cubierto en DefensOps? Nuestra plataforma SIEM ofrece cobertura para detectar técnicas como la T1486, relacionada con el cifrado de datos, incluida en nuestro plan Professional. Con DefensOps, puedes estar protegido contra amenazas que aprovechan debilidades como la descrita. Visita nuestra página de precios o solicita una demo para conocer más sobre cómo podemos ayudarte a proteger tu infraestructura.