brookings.edu
El Consejo Municipal de Nueva York ha aprobado un proyecto de ley que requiere contratar proveedores para realizar auditorías anuales de sesgos de inteligencia artificial (IA) en los procesos y herramientas de la ciudad.
Las empresas que utilicen recursos generados por IA serán responsables de revelar a los solicitantes de empleo cómo se utilizó la tecnología en el proceso de contratación y deben permitir a los candidatos opciones de enfoques alternativos. Por primera vez, una ciudad del tamaño de Nueva York impondrá multas por uso no revelado o sesgado de IA, cobrando hasta $1,500 por violación a empleadores y vendedores.
La legislación entrará en vigor en 2023 y es una medida contundente en cómo el gobierno ha comenzado a reprimir el uso de IA en los procesos de contratación. Sin embargo, los expertos han expresado su preocupación por el diseño y la ejecución de auditorías de discriminación basadas únicamente en la raza y el género, y por la falta de detalles sobre cómo deben llevarse a cabo las auditorías de parcialidad.
El Consejo Municipal de Nueva York ha aprobado un proyecto de ley que requiere contratar proveedores para realizar auditorías anuales de sesgos de inteligencia artificial (IA) en los procesos y herramientas de la ciudad.
Las empresas que utilicen recursos generados por IA serán responsables de revelar a los solicitantes de empleo cómo se utilizó la tecnología en el proceso de contratación y deben permitir a los candidatos opciones de enfoques alternativos.
Por primera vez, una ciudad del tamaño de Nueva York impondrá multas por uso no revelado o sesgado de IA, cobrando hasta $1,500 por violación a empleadores y vendedores. La legislación entrará en vigor en 2023 y es una medida contundente en cómo el gobierno ha comenzado a reprimir el uso de IA en los procesos de contratación.
Sin embargo, los expertos han expresado su preocupación por el diseño y la ejecución de auditorías de discriminación basadas únicamente en la raza y el género, y por la falta de detalles sobre cómo deben llevarse a cabo las auditorías de parcialidad.
Por qué la ciudad de Nueva York está evitando a la contratación de IA
Why New York City is cracking down on AI in hiring | Brookings
As states and municipalities begin to take action to address automated bias in the hiring process, Nicol Turner Lee and Samantha Lai explore provisions of algorithmic audit legislation.
www.brookings.edu
