¿Es suficiente el Pacto de IA para un futuro seguro?

Más de 100 empresas firman el Pacto de IA para cumplir voluntariamente la Ley de IA, pero hay algunas voces críticas.

 

Pacto sobre la IA: un paso hacia la regulación, pero con dudas en el horizonte

El pasado 1 de agosto entró en vigor la Ley de IA, la primera regulación global diseñada para abordar los riesgos asociados a la inteligencia artificial (IA). Aunque no será plenamente aplicable hasta dentro de dos años, algunas disposiciones clave, como la prohibición de ciertas prácticas de alto riesgo, entrarán en vigor en seis meses. En este contexto, la Comisión Europea ha lanzado el Pacto sobre la IA, una iniciativa voluntaria que invita a los desarrolladores de IA, tanto de Europa como del resto del mundo, a cumplir de manera anticipada con las obligaciones impuestas por la Ley de IA.

Hasta la fecha, más de 100 empresas, entre las que se incluyen OpenAI, Microsoft, Google y Amazon Europa, han firmado el pacto. El objetivo es impulsar una IA ética y responsable, promoviendo la gobernanza de IA, identificando sistemas de alto riesgo y fomentando la alfabetización en IA dentro de sus organizaciones. Adicionalmente, más de la mitad de las compañías firmantes se han comprometido a implementar medidas como la supervisión humana en los sistemas de IA y etiquetar de manera transparente el contenido generado, como los deepfakes.

¿Un pacto suficiente?

A pesar del apoyo que ha recibido esta iniciativa, algunos expertos como Andrew Ng han expresado preocupaciones. Ng, quien defiende la necesidad de regular la IA, advierte que la velocidad a la que evoluciona esta tecnología puede superar la capacidad de algunos reguladores para adaptarse. "lo único más peligroso que saber demasiado poco es saber demasiado poco sin comprender lo poco que es", afirma, sugiriendo que las regulaciones podrían quedarse cortas frente a los desafíos reales que plantea la IA.

La Ley de IA sigue un enfoque basado en el riesgo, con distintos niveles de regulación que van desde las aplicaciones de alto riesgo, sujetas a estrictos controles, hasta las de riesgo mínimo, que podrán usarse sin restricciones. La creación de una Oficina Europea de IA en febrero de 2024, encargada de garantizar el cumplimiento de estas normativas, refuerza la idea de que Europa busca liderar el desarrollo ético y seguro de la inteligencia artificial.

¿Dónde están Meta o Apple?

Un aspecto que ha llamado la atención es que, aunque gigantes como OpenAI, Microsoft y Google se han comprometido con el pacto, otras empresas de peso en el sector, como Meta y Apple, no lo han hecho. Esta falta de adhesión podría indicar una postura más cautelosa a la espera de ver cómo evoluciona en la práctica el pacto, o quizá algún posible desacuerdo con las directrices impuestas por la Ley de IA. Para algunas compañías, los compromisos voluntarios pueden parecer una forma de experimentar con las normativas sin que se sientan demasiado restrictivas. No obstante, la ausencia de sanciones inmediatas podría llevar a un cumplimiento desigual entre las empresas.

Mi opinión

Desde mi perspectiva, la Ley de IA es un paso necesario, pero su efectividad dependerá de su capacidad para adaptarse a la rápida evolución de la tecnología. El Pacto de IA es una señal positiva de que las grandes tecnológicas están dispuestas a colaborar con los reguladores. No veo preocupante que empresas como Apple y Meta, no se hayan sumado ya que no se descarta que se sumen a futuro.

Comparto la opinión de Andrew Ng y considero que legislar en estos momentos sobre algo como la IA en continuo desarrollo, es demasiado complejo y se debe legislar contra los usos de la IA y no contra la tecnología propiamente dicha. En última instancia, el mayor desafío será encontrar un equilibrio entre regular la IA para proteger a los usuarios y no limitar su capacidad para generar innovación y beneficios. Las normativas deben ser flexibles y ajustarse a los avances de la tecnología, pero, sobre todo, deben ser equitativas para todas las empresas. 

Conclusión

El Pacto sobre la IA es un avance prometedor hacia una IA más ética y responsable, pero su éxito dependerá de la colaboración entre todos los actores del sector. La adhesión de más empresas, incluidas aquellas que aún no han firmado, será crucial para crear un ecosistema global seguro.