No es la capa de Harry Potter, pero esta camisa quiere hacerte invisible para la IA

No es la capa de invisibilidad de Harry Potter, pero quizá sea lo más parecido que puede ofrecer un armario frente a los ojos de las cámaras de vigilancia.

El artista y diseñador alemán Simon Weckert creó “Digital Camouflage”, una camisa hawaiana cuyo estampado busca confundir a sistemas de videovigilancia que utilizan inteligencia artificial (IA) para detectar personas.

La prenda combina colores intensos, contrastes y formas superpuestas para alterar las pistas visuales que emplean algunos algoritmos al identificar una figura humana.

Mientras más escandalosa resulta la camisa para nuestros ojos, menos reconocible puede volverse quien la lleva para la máquina.

Y no es magia como en Harry Potter y la piedra filosofal. Es matemáticas.

Los sistemas de visión artificial no “ven” personas como nosotros.

Este tipo de tecnologías aprenden patrones estadísticos a partir de millones de imágenes como bordes, texturas, cabeza, hombros, extremidades, proporciones y continuidad de la silueta.

Para la máquina, explica Simon Weckert, una persona termina convertida en un conjunto de estadísticas visuales.

Esa es justamente la debilidad que intenta explotar Digital Camouflage.

IA contra IA

La camisa utiliza principios de los llamados ataques adversariales, que introducen información visual diseñada para provocar errores en un modelo.

El algoritmo deja de registrar a una persona. Quien la lleva se vuelve, en efecto, invisible para la máquina”,

Así explica Weckert sobre el principio detrás de Digital Camouflage.

Y aquí aparece otra ironía: Weckert utilizó inteligencia artificial para diseñar una prenda destinada a confundir a la inteligencia artificial.

Mediante sucesivas pruebas modificó el estampado hasta reducir la confianza con la que un detector identificaba a quien vestía la camisa como persona.

Cuando engañar a la IA tiene límites

El diseñador realizó pruebas con YOLO, un sistema abierto de detección de objetos, pero eso no convierte a Digital Camouflage en una capa mágica, porque no existe garantía de que pueda engañar a cualquier cámara o algoritmo.

“Ningún patrón puede prometer derrotar a todos los sistemas bajo cualquier condición”, advierte Weckert, quien aclara que la camisa tampoco pretende garantizar el anonimato”.

El proyecto surgió ante el uso de videovigilancia con IA en Kottbusser Tor, Berlín, pero termina planteando una pregunta bastante más amplia sobre privacidad.

Simon Weckert invita a reflexionar que, si las máquinas aprendieron a reconocernos por nuestros patrones, quizá los humanos también podamos aprender cuáles hacen que dejen de vernos.

Así, Harry Potter tenía magia y nosotros, por ahora, tendremos que conformarnos con una camisa hawaiana.

Sigue a NITRO en LinkedIn.