Norton advierte riesgos de la IA para los archivos personales

Los asistentes de inteligencia artificial pueden convertirse en una nueva vía de exposición de información personal conforme adquieren capacidades para consultar archivos, abrir enlaces y ejecutar tareas en nombre de los usuarios.

Norton advirtió sobre estos riesgos al presentar Safe AI, una herramienta que busca limitar las acciones de aplicaciones como ChatGPT y Claude cuando interactúan con información almacenada en computadoras personales.

Según Gen Threat Labs, laboratorio de investigación de la empresa matriz de Norton, el contenido malicioso distribuido a sus usuarios mediante chatbots de inteligencia artificial aumentó 54 por ciento a escala mundial durante los últimos 90 días.

La compañía no precisó en su comunicado el número absoluto de incidentes ni la metodología utilizada para calcular ese incremento, por lo que el dato no permite determinar la magnitud total de las amenazas.

El riesgo de conceder permisos a la IA

El problema no se limita a los enlaces fraudulentos. Los asistentes que pueden interactuar con archivos y aplicaciones también podrían recibir instrucciones maliciosas diseñadas para alterar su comportamiento, mediante ataques conocidos como prompt injection.

Este tipo de manipulación plantea interrogantes sobre los límites de acceso a información privada y la responsabilidad de las plataformas cuando sus herramientas ejecutan acciones no previstas por los usuarios.

En respuesta, Norton incorporó a su paquete Norton 360 tres mecanismos que, según la empresa, permiten bloquear instrucciones sospechosas, restringir permisos de lectura o modificación de archivos y advertir sobre enlaces potencialmente peligrosos.

Las funciones, agrupadas bajo el nombre Safe AI, están disponibles para Windows y Mac.

Sin embargo, el anuncio no incluye resultados de pruebas independientes que permitan evaluar la eficacia de esos mecanismos ni establecer qué proporción de ataques pueden detener.

La aparición de estas soluciones refleja un desafío creciente para la ciberseguridad: proteger los datos personales no sólo de programas maliciosos, sino también de las acciones que los asistentes de IA pueden realizar con los permisos concedidos por sus usuarios.

Sigue a NITRO en LinkedIn.