- Un sistema de vigilancia biométrica con IA identifico como arma de fuego a un paquete que tenía un niño
- La vigilancia y la identificación biometrica crean un ambiente de tortura psicológica a todos los que están sometidos con estos sistemas
- El impulso de la biométria para vigilancia de rasgos y conductas va más allá de la seguridad, también es aplicado en exámenes y plataformas digitales
- Las organizaciónes piden mayores regulaciones, en realidad lo que se debe hacer es rechazar completamente la biometría.
Taki Allen, un inocente niño de 16 años, quedo profundamente traumatizado por su experiencia durante un incidente relacionado con un sistema de seguridad con tecnología IA.
El incidente tuvo lugar fuera de Kenwood High School en el condado de Baltimore, Maryland, el 20 de octubre de 2025.
Taki que estaba llevando un paquete de Doritos fuera de la escuela, termino siendo asaltado por la policía debido a una confusión cuando el sistema de inteligencia artificial lo identificó erróneamente como portador de un arma de fuego.
Respuestas de la escuela y los desarrolladores
Esta situación plantea importantes preocupaciones sobre la fiabilidad de los sistemas de vigilancia de IA, en particular en relación con los falsos positivos y el potencial sesgo.
El incidente ha llevado a la atención inmediata tanto de la administración escolar como de los desarrolladores detrás del sistema de IA.
Los funcionarios escolares reconocieron el tema y emitieron disculpas, mientras que Omnilert, la compañía detrás de la IA, también publicó una declaración expresando remordimiento.
Este incidente ha subrayado cómo estos sistemas producen confrontaciones que escalarán en situaciones traumáticas y causan un daño psicológico duradero.
Todo esto deja en relieve cómo estas tecnologías al ser utilizadas solo producen miedo y trauma para los individuos, incluso si no están directamente involucrados en el evento.
Trauma psicológico
La angustia emocional que Taki sufrió en el incidente le causó un gran trauma, lo que le dificultó regresar a casa o hacer varias actividades por miedo a ser identificado de nuevo. En el momento del incidente temía que lo mataran.
La situación sirve como un claro recordatorio de cómo las identificaciones erroneas, realizadas con las "maravillosas" tecnologías en realidad solo sirven para oprimir y causar un trauma profundo.
La experiencia de Taki refleja la situacion que muchos otros que han sido identificados erróneamente en contextos similares.
Además las consecuencias son potencialmente mucho peores que la simple angustia emocional - ya que pueden produceir daños físicos, repercusiones legales y situaciones peores, si las autoridades actúan de manera inadecuada, lo cual es bastante común.
Otro caso ejemplar de la obstinación policial donde legitiman sus conductas en base a sistemas biometricos y legislaciones que permiten el empleo de sistemas digitales, fue cuando un conductor llamado Jason Killinger fue arrestado incorrectamente e injustamente en un Casino de Reno, Nevada.
Los medios y burócratas están intentando encubrir que los sistemas biométricos tienen estos errores por "prejuicios" raciales, que causan fallas. Sin embargo se puede demostrar absolutamente que estos argumentos son falaces, debido a la gran diversidad que existe en el gran número de víctimas causadas por estas "herramientas" digitales.
El papel de la vigilancia de la IA
A pesar de la gravedad de estos incidentes, sigue habiendo poca preocupación en la "sociedad" por el empleo de estos sistemas de biometría impulsados en entornos públicos.
El incidente también plantea cuestiones más amplias relacionadas con la forma en que se utilizan los sistemas biométricos para vigilar los espacios públicos
Otro buen ejemplo de estas herramientas intrusivas, son los sistemas de proctoring, creados supuestamente para evitar que los estudiantes cometan fraudes en los exámenes.
Muchas universidades inescrupulosas y autoritarias, han estado en los ultimos años introduciendo estas herramientas biométricas violando la privacidad y abusando de los estudiantes inocentes y honestos, al someterlos sin justificación a una vigilancia y supervision constante.
Pero como es "el gran mundo maravilloso de las tecnologías", los estudiantes que no aceptaron tales violaciones por parte de las universidades, fueron astuta y perversamente señalados como problemáticos.
Muy similar es la imposición cada vez más común, de requerir datos biométricos para poder utilizar plataformas digitales.
Supuestamente por motivos de seguridad, que no son honestos, ya que los datos biométricos sólo son para prevenir el "phishing" o robo de identidad, sin embargo puede probarse con facilidad que son extremadamente fáciles de falsificar.
Esto deja a las personas en un estado de vulnerabilidad extrema ya que, mientras la basura biométrica es aceptada como datos auténticos, una falsificación o un error de analisis por una ia, termina permitiendo que el sistema reaccione con una violencia brutal contra personas inocentes, sin mencionar la tortura y estrés debido a la vigilancia y la perdida de privacidad.
Monótonas regulaciones
Expertos y organizaciones piden una mayor responsabilidad en el despliegue de estas tecnologías.
Afirman que la falta de regulación conduce a un uso indebido generalizado o incluso a la instalación de cámaras con funciones que se expanden más allá de las meras medidas de seguridad y son percibidas como amenazas a la privacidad.
Argumentan que aunque la IA puede desempeñar un papel crucial, no debe utilizarse indiscriminadamente sin una consideración cuidadosa.
Y subrayan la necesidad de contar con mecanismos de supervisión más sólidos para garantizar que estas tecnologías se implementen de manera responsable y eficaz en espacios públicos donde pueden tener un impacto significativo en la vida de las personas.
La realidad
El incidente sirve como un claro recordatorio de cómo incluso los sistemas más avanzados pueden fallar en abordar adecuadamente las situaciones en el mundo real.
Los medios muestran estos incidentes como casos aislados. Las instituciones y funcionarios fingen consternación y ofrecen disculpas.
Organizaciones piden más regulaciones, cuando irónicamente es debido a la misma burocracia que se invierte en estas tecnologias invasivas.
Las corruptas instituciones lo hacen con la excusa de "agilizar" procesos, entre los cuales se incluyen tareas de vigilancia
Lo único que se puede hacer para evitar, que esta tortuosa situacion se vuelva rutina y parte de una "nueva normalidad", es rechazar completamente todo tipo de herramienta biométrica y vigilancia digital.
La identificación biométrica sólo sirve para la tortura psicológica
