La seguridad de la inteligencia artificial (IA) es un tema cada vez más importante. Para mejorarla, investigadores sugieren que es necesario mirar dentro de la 'caja negra' de los modelos de lenguaje. Esto se refiere a la identificación de ciertos elementos cognitivos en los modelos de lenguaje que podrían indicar cuando un sistema de IA puede tomar una acción no deseada.

Este enfoque podría ser clave para prevenir acciones no deseadas en sistemas de inteligencia artificial.

¿Estás cubierto en DefensOps? Nuestra plataforma SIEM ofrece cobertura genérica vía motor de correlación, incluida en nuestro plan Essential. Esto te permite detectar y responder a posibles amenazas de seguridad de la IA. Visita nuestra página de precios para obtener más información.