¿Es la nueva ley de Inteligencia Artificial en Europa un parteaguas o un riesgo?

La aprobación por parte de la Unión Europea de la primera ley de regulación de IA en el mundo probablemente influirá en el desarrollo de futuras herramientas tecnológicas.

Hola, estimados lectores, nos acercamos al final del año y hemos sido testigos de importantes movimientos en la comunidad de Inteligencia Artificial a nivel mundial.

Por un lado, Google finalmente ha lanzado su respuesta a ChatGPT de OpenAI, llamada Gemini, prometiendo ser una herramienta aún más poderosa. Sin embargo, el lanzamiento ha decepcionado tras revelarse que lo presentado en el video no era una demostración real, sino un montaje.

Otra noticia destacada esta semana es la aprobación por parte de la Unión Europea de la primera ley de regulación de IA en el mundo. Este acontecimiento probablemente influirá en el  desarrollo de futuras herramientas tecnológicas, y me gustaría aprovechar este espacio para analizar las posibles implicancias de una ley similar en México.

Un punto clave es la prohibición de bases de datos de rostros obtenidos de circuitos de televisión cerrados. Es relevante mencionar que muchos bancos en México utilizan estas tecnologías para identificar criminales y defraudadores. Esta medida podría limitar significativamente estos esfuerzos e incrementar el número de fraudes.

Otro aspecto controvertido es la creación de un ‘score social’ basado en comportamientos o características personales. Muchos de los scores crediticios actuales, que podrían considerarse ‘scores sociales’, utilizan características de comportamiento para determinar la elegibilidad de crédito. Si no se interpreta adecuadamente, esta ley podría desestabilizar el sistema bancario mexicano. Ya que dependemos fuertemente de estos scores para mantener tasas de morosidad bajas.

También se discute sobre los sistemas de IA que manipulan la voluntad de las personas. Este punto es especialmente intrigante por su ambigüedad. ¿A qué nos referimos exactamente con ‘voluntad’? Legalmente, esto podría incluir desde motores de recomendación hasta herramientas que crean un ‘customer journey’ donde se busca que el cliente compre algo o tenga una experiencia distinta en la plataforma. ¿Serían estos sistemas ilegales bajo la nueva ley europea?

En México, estamos empezando a ver la promoción de ‘sandbox regulatorios’ por parte de la senadora Lagunes y el senador Madero, enfocados en temas de Inteligencia Artificial, bajo el marco de la Alianza Nacional de Inteligencia Artificial (ANIA).

Es crucial analizar qué aspectos de estas leyes podrían aportar valor real sin caer en una sobrerregulación que limite el desarrollo de empresas de IA en México o desincentive a grandes empresas a invertir en IA dentro de sus cadenas de valor.

Finalmente, es importante aprender de errores pasados, como la sobrerregulación en el sector de la nube, donde en 2023, muchos bancos aún no aprovechan las herramientas disponibles debido a las restricciones impuestas por la Comisión Nacional Bancaria y de Valores (CNBV). Como comunidad, debemos estar atentos a estas regulaciones e invitar a la participación en su desarrollo para que la ley que se genere permita el florecimiento y renacimiento de la pequeña comunidad de Inteligencia Artificial en el país.

Fuente: El Financiero