La IA, con su capacidad de aprender, adaptarse y operar a velocidades inimaginables para los humanos, está preparada para convertirse en el motor de este nuevo orden mundial. A medida que la IA se desarrolla rápidamente, ha evolucionado de computadoras primitivas a aprendizaje automático, aprendizaje profundo y la IA generativa.
El punto de no retorno, o «singularidad», se acerca, donde la IA superará a los supervisores humanos y se volverá todopoderosa. Sin embargo, poco se ha dicho sobre su creciente papel en el gobierno y su efecto opresivo en los principios democráticos de privacidad, autonomía, igualdad, el proceso político y el estado de derecho. Karl Manheim y Lyric Kaplan destacan los riesgos para la privacidad y la democracia que plantea la IA, afirmando que la IA es la tecnología más disruptiva de la era moderna.
El autoritarismo digital, o «algocracia», implica el uso de la tecnología de la información para manipular a la población, poniendo en peligro los derechos humanos y las libertades civiles. En 2024, 37 agencias del gobierno federal reportaron más de 1700 usos de IA en su trabajo, con 227 etiquetados como de impacto en los derechos o la seguridad. Un informe de investigación de The Washington Post destacó cómo las agencias policiales están utilizando herramientas de inteligencia artificial en arrestos ilícitos y trabajo policial cuestionable.
Esto se conoce como «sesgo de automatización», una tendencia a confiar ciegamente en las decisiones tomadas por software. Es probable que aumente el número de casos en detenciones falsas y trabajo policial cuestionable debido a que la IA es cada vez más utilizada por los agentes de policía, dejando a las personas aún más vulnerables.
El estado de vigilancia, combinado con la IA, está creando un mundo donde no hay dónde correr y esconderse, con ciudadanos puestos como potencialmente culpables hasta que se demuestre su inocencia. Con la vigilancia 24/7 llevada a cabo por el gobierno, los ciudadanos están esperando mientras tanto a ser etiquetados, señalados, dirigidos, monitoreados, manipulados, investigados, interrogados y acosados por agentes del estado y de la policía.
La privacidad está especialmente en riesgo, ya que la tecnología de vigilancia de IA se adopta sin tener en cuenta la privacidad. Toda esta vigilancia está reorientando nuestro mundo en uno en el que la libertad es casi irreconocible, ademas el estado policial carece de mano de obra y recursos para monitorear, identificar, catalogar, cotejar, cruzar referencias y coludir eficientemente.
Las ramificaciones de cualquier gobierno que ejerza tal poder no regulado y sin fundamento son escalofriantes, ya que la vigilancia de la IA proporciona los medios finales de represión y control.
Amnistía Internacional desplegada sin salvaguardias para protegerse de los excesos y abusos, especialmente dentro de las agencias gubernamentales, tiene el potencial de convertirse en un «dictador inmortal» que vive para siempre y del que no hay escape.
Algocracia: el control potenciado con la IA
activistpost.com
