- La infraestructura digital podrá desarrollarse como instrumentos de opresión
- Las instituciones ignoran el sesgo e implementan estos sistemas
- Los sistemas de IA se despliegan sin tener en cuenta la privacidad de las personas
En la marcha hacia la supremacía tecnológica, grandes corporaciones y gobiernos están forjando una alianza alarmante que amenazan los derechos de privacidad más básicos y las libertades civiles.
Lejos de ser herramientas neutrales para el progreso, las infraestructuras digitales que se están desplegando se manejan cada vez más como instrumentos de represión, opresión y control social.
El autoritarismo digital implica el despliegue de sofisticadas tecnologías de la información diseñadas para manipular a las poblaciones, reprimir la disidencia y oprimir. Tanto los gobiernos como las corporaciones aprovechan sistemas de vigilancia invasivos, análisis de big data, reconocimiento facial y monitoreo impulsado por IA para examinar cada faceta de la vida individual.
Estas tecnologías no son meras herramientas pasivas para la seguridad o la eficiencia: son instrumentos activos de ingeniería social que ponen en peligro los derechos humanos y las libertades civiles fundamentales.
En nombre de la seguridad, el orden o incluso la conveniencia, estas entidades están erosionando la privacidad, suprimiendo las libertades y silenciando la oposición.
"Algocracia" el sutil autoritarismo digital
Sin embargo, poco se ha dicho sobre su creciente papel en el gobierno y su efecto opresivo en los principios democráticos de privacidad, autonomía, igualdad, el proceso político y el estado de derecho.
Karl Manheim y Lyric Kaplan destacan los riesgos para la privacidad y la democracia que plantea la IA, afirmando que la IA es la tecnología más disruptiva de la era moderna.
El autoritarismo digital, o «algocracia», implica el uso de la tecnología de la información para manipular a la población, poniendo en peligro la privacidad y las libertades civiles.
Esto se conoce como «sesgo de automatización», una tendencia a confiar ciegamente en las decisiones tomadas por software.
Es probable que aumente el número de casos en detenciones falsas y trabajo policial cuestionable debido a que la IA es cada vez más utilizada por los agentes de policía, dejando a las personas aún más vulnerables.
El despliegue de IA en las instituciones
El año 2024 marcó un hito en esta tendencia en curso. Los informes oficiales revelan que 37 agencias del gobierno federal de Estados Unidos han informado que han desplegado más de 1.700 aplicaciones de IA en sus operaciones.
Aunque la innovación suele anunciarse como progreso, la naturaleza de estos usos de la IA suscita serias preocupaciones. De estas solicitudes, 227 se consideran explícitamente que afectan a los derechos humanos o a la seguridad.
Esto significa que casi el 13% de los despliegues de IA implican funcionalidades potencialmente intrusivas o que comprometen los derechos, que van desde el reconocimiento facial hasta algoritmos de policía predictiva que amenazan con afianzar los sesgos sistémicos y violar las libertades fundamentales.
Un informe de investigación de The Washington Post añadió una capa inquietante a esta narrativa, exponiendo cómo las agencias policiales dependen cada vez más de herramientas de inteligencia artificial -a veces de manera ilegal o cuestionable- para llevar a cabo arrestos y trabajo policial. Estos instrumentos a menudo se utilizan sin supervisión, transparencia o rendición de cuentas adecuadas.
La IA como medio de opresión
Con la vigilancia 24/7 llevada a cabo por el gobierno, los ciudadanos están esperando a ser etiquetados, señalados, dirigidos, monitoreados, manipulados, investigados, interrogados y acosados por agentes del estado y de la policía.
El estado de vigilancia, combinado con la IA, está creando un mundo donde no hay dónde correr y esconderse, con ciudadanos puestos como potencialmente culpables hasta que se demuestre su inocencia.
La privacidad está especialmente en riesgo, ya que la tecnología de vigilancia de IA se adopta sin tener en cuenta la privacidad. Toda esta vigilancia está reorientando nuestro mundo en uno en el que la libertad es casi irreconocible, ademas el estado policial carece de mano de obra y recursos para monitorear, identificar, catalogar, cotejar, cruzar referencias y coludir eficientemente.
La privacidad en riesgo
En muchos informes se describen los casos en que se han utilizado el reconocimiento facial impulsado por la IA y análisis predictivos para identificar a los sospechosos, a veces dando lugar a detenciones ilícitas o a acciones policiales injustificadas.
En algunos casos, los sistemas de IA se han utilizado para señalar a los individuos basándose en criterios vagos o conjuntos de datos sesgados, criminalizando efectivamente el comportamiento inocente o comunidades marginadas.
Esta tendencia inquietante pone de relieve un patrón mundial más amplio: el armamento de la IA y las tecnologías de vigilancia para reprimir la disidencia en lugar de ayudar a los ciudadanos.
Las grandes empresas, impulsadas por motivos de lucro, desarrollan y venden estas tecnologías invasivas a los gobiernos, con poco respeto por las implicaciones en materia de derechos humanos.
Mientras tanto, los gobiernos implementan estas herramientas para monitorear, manipular y controlar a sus poblaciones, a menudo eludiendo las salvaguardias legales y la supervisión democrática.
El control exponencial de la IA
