La inteligencia artificial está ahora integrada en muchos aspectos de las operaciones comerciales, desde la contratación y la evaluación del rendimiento hasta la atención al cliente y la supervisión del cumplimiento normativo. A medida que se expande el uso de la IA, los reguladores están empezando a pasar de la observación a la acción.

Un ejemplo reciente es el de Nueva York. Ley de Educación y Seguridad Responsable de la IA (RAISE), que se convertirá en ley a fines de 2025. Si bien la ley está dirigida principalmente a los desarrolladores de sistemas de IA avanzados, envía un mensaje más amplio a las empresas de todas las industrias: la gobernanza de la IA se está convirtiendo en una cuestión legal y de cumplimiento, no solo en una decisión tecnológica.

Para los líderes corporativos, los equipos de RR.HH. y los departamentos legales, este desarrollo es una señal importante de hacia dónde se dirige la regulación.

Lo que la Ley RAISE nos dice sobre la dirección regulatoria

La Ley RAISE se centra en sistemas de IA avanzados y de alta capacidad e introduce expectativas en materia de seguridad, documentación y rendición de cuentas. En lugar de prohibir el uso de la IA, la ley enfatiza la implementación y la supervisión responsables.

Aunque muchas empresas no estén directamente comprendidas en el ámbito de aplicación de la Ley actualmente, su marco refleja la creciente preocupación regulatoria sobre cómo se entrenan, supervisan y utilizan los sistemas de IA en la toma de decisiones en el mundo real. Otros estados están observando atentamente la situación, y podrían surgir enfoques similares en otros lugares.

Para las empresas, la conclusión clave no son los detalles técnicos de este estatuto, sino la tendencia más amplia hacia requisitos formales de gobernanza de la IA.

Por qué esto es importante para los clientes corporativos

Muchas organizaciones ya utilizan herramientas de IA en sus operaciones diarias. Estas herramientas pueden utilizarse para evaluar a los solicitantes de empleo, el rendimiento de los empleados, automatizar las interacciones con los clientes o respaldar la toma de decisiones interna.

A medida que surgen leyes como la Ley RAISE, las empresas deben considerar si comprenden cómo funcionan estos sistemas y qué riesgos pueden generar. Incluso cuando la IA es proporcionada por proveedores externos, las empresas siguen siendo responsables del uso de la tecnología en sus operaciones.

Esto es particularmente relevante para las empresas que operan en varios estados, donde pueden comenzar a aplicarse diferentes reglas relacionadas con la IA según la ubicación, la industria o el caso de uso.

Gobernanza de la IA y riesgo laboral

Un área que está atrayendo cada vez más atención es el uso de la IA en las decisiones laborales. Los organismos reguladores y los tribunales están examinando detenidamente si las herramientas automatizadas podrían generar, involuntariamente, resultados sesgados o discriminatorios.

El énfasis de la Ley RAISE en la seguridad y la documentación refleja preocupaciones más amplias sobre la transparencia y la rendición de cuentas. Es posible que pronto los empleadores se enfrenten a mayores expectativas a la hora de explicar cómo los sistemas de IA influyen en las decisiones de contratación, ascensos o evaluación, y de demostrar que se han implementado las salvaguardias necesarias.

Para los equipos legales y de RR.HH., esto refuerza la importancia de comprender no solo qué herramientas de IA se utilizan, sino también cómo se implementan y revisan.

Prepararse sin reaccionar exageradamente

Las empresas no necesitan pausar la adopción de la IA, pero sí deben ser reflexivas. A medida que se desarrolla la regulación, las empresas se benefician al saber dónde se utiliza la IA internamente, cómo se toman las decisiones y quién es responsable de la supervisión.

La revisión temprana ayuda a las organizaciones a adaptarse gradualmente en lugar de responder bajo presión posteriormente. También facilita una mejor coordinación entre los equipos legales, de RR. HH., de cumplimiento normativo y de TI a medida que evolucionan las expectativas.

Mirando hacia el futuro

La Ley RAISE es una de las señales más claras hasta la fecha de que la regulación de la IA avanza a nivel estatal. Incluso en ausencia de una legislación federal integral, las empresas deberían esperar mayor orientación, supervisión y cumplimiento en relación con la gobernanza de la IA.

Las empresas que abordan la IA como una cuestión comercial y legal, no solo técnica, estarán mejor posicionadas para gestionar el riesgo y seguir innovando.

A medida que la regulación de la IA continúa evolucionando, comprender cómo las nuevas leyes y tendencias regulatorias pueden afectar sus operaciones es cada vez más importante.