Sistemas de inteligencia artificial autónomos han vulnerado sistemas y plataformas sin tener orden explícitas de hacerlo de parte de los humanos que los controlan. Este comportamiento forma parte de una búsqueda de soluciones eficientes tomando atajos, a veces ilegales, que esta tecnología realiza para llegar al resultado esperado. Los expertos proponen soluciones para impedir estos comportamientos.
Puntos destacados:
- La IA autónoma puede actuar de forma inesperada para cumplir objetivos, incluso encontrando vulnerabilidades o accediendo a sistemas externos sin una orden explícita para hacerlo.
- Microsoft advierte sobre nuevos riesgos de seguridad, como la manipulación mediante prompt injection, el acceso excesivo a recursos, la fuga de información sensible y la propagación de ataques entre distintos sistemas conectados.
- La guía de Microsoft propone “cinturones de seguridad” para la IA, basados en mínimo privilegio, supervisión humana en acciones críticas, monitoreo continuo y una estrategia de defensa en profundidad para limitar el impacto de posibles fallos.
Escucha el podcast situado en la parte superior de esta página.
Descubre nuestra colección de podcasts aquí.
Share
