La inteligencia artificial es uno de los temas virales en estos momentos. Políticos, expertos y opinión pública debaten sobre los límites legales que se deben establecer al desarrollo y uso de esta tecnología. Contribuimos desde este modesto artículo, humildemente, a abrir este debate y exploramos los límites que la legislación fija a día de hoy.
Aunque lleva años desarrollándose, la Inteligencia Artificial saltó a la palestra con la popularización de aplicaciones como ChatGPT. En el campo mediático, la inteligencia artificial es un fenómeno novedoso. Y como sucede con todo lo nuevo, despierta temor y recelo.
Hay quien se horroriza fantaseando con la idea de que la Inteligencia Artificial va a sustituir al trabajo humano. Esto no es nada nuevo. Como recuerda el periódico El País. Hace 70 años, el entonces secretario general de CC.OO., Marcelino Camacho, auguraba que el desarrollo científico-técnico iba a acabar con la clase obrera. La robotización de las fábricas haría que ya no fuera necesario contratar trabajadores. En el siglo XXI hemos visto cómo no solo la industria ha dejado de estar localizada en áreas concretas del mundo como Europa, América del Norte, Japón, y se ha extendido por todo el planeta; sino que ha aumentado la clase obrera a nivel mundial. En datos del Banco Mundial, hemos pasado de 2.320 millones de trabajadores en 1990 a 3.740 millones en el 2025.
El otro tema que preocupa es la facilidad que brinda la inteligencia artificial para crear realidades que no existen y difundir Fake News. Como explica la Fundación Telefónica en una exposición que organizó en el edificio que tienen en el centro de Madrid, este es un fenómeno bastante antiguo. En 1917, los periódicos británicos The Times y The Daily Mail orquestaron una campaña para desprestigiar a Alemania a finales de la I Guerra Mundial, asegurando que el país germano tenía “Fabricas de cuerpos”, donde utilizaba los cuerpos de los soldados prisioneros para producir glicerina con la que fabricar armas y alimento para aves y cerdos. Años más tarde se descubrió que la noticia era falsa.
La inteligencia artificial es relativamente nueva y su regulación es incompleta. La deriva que vaya a coger su desarrollo dependerá en gran medida de la orientación y límites que establezcan las leyes de los países. Pero siempre, partiendo de problemas reales, no de especulaciones. En estos momentos, esta legislación es reducida y limitada.
Temores infundados.
En un artículo publicado en el Diario Vasco, el profesor de análisis de datos de la facultad de ingeniería informática de la Universidad Europea, Don Francisco José García-Ull, indicaba que los mensajes alarmistas que se despliegan sobre la IA suelen venir de la combinación de tres fuentes. De la difusión de titulares de prensa impactantes, que buscan aumentar la venta de periódicos o la cantidad de clics que recibe una noticia por internet; de los argumentos de líderes tecnológicos, que alertan de posibles riesgos, intentando influir en la regulación de esta tecnología; y de sectores que ven amenazada su relevancia por el avance de la Inteligencia Artificial.
Estos mensajes están más basados en especulaciones que en la realidad. Aparte de la idea de que la Inteligencia Artificial va a quitar el trabajo a algunos profesionales, de la que ya hemos hablado en la introducción, subyace el temor de que la IA se va a rebelar contra la utilización de los hombres y va a terminar dominándonos: o de que la Inteligencia Artificial se va a convertir en una especie de sabiduría omnisciente con capacidad de comprender todo lo que ocurre y de predecir el futuro.
La inteligencia artificial tiene la capacidad de aprender del trabajo acumulado, perfeccionando su funcionamiento. Esta es una de las diferencias fundamentales de esta tecnología frente a adelantos tecnológicos anteriores. Pero, en lo fundamental, la IA opera por medio de patrones estadísticos. Orientados por la intervención de programadores y usuarios. Carece, por tanto, de conciencia, de deseos e instinto de supervivencia. El temor a que las máquinas se revelen y manejen a los hombres parece estar inspirado en la influencia del cine y la literatura. En relatos de ciencia-ficción distópica como Blade Runner, Terminator o, a otro nivel, El planeta de los simios.
Respecto a la capacidad de entender el mundo, García-Ull aclara que los sistemas actuales de I.A. están especializados, son limitados y se encuentran en una etapa teórica. Carecen de voluntad en la toma de decisiones. Por lo que nos debería preocupar más quién utiliza esta tecnología y para qué, que la mera existencia de la IA.
Los límites éticos.
La página web de la UNESCO menciona usos de la IA que están abriendo dilemas morales. Algunos de ellos se basan en contradicciones que yacen en la sociedad y otros derivan de la aplicación que se la da a esta tecnología.
Uno de estos dilemas morales es el de la IA sesgada. Si utilizamos un buscador de imágenes que opera con IA o un generador de imágenes, y escribimos en la barra de búsqueda “personalidades históricas”, la gran mayoría de las imágenes que nos ofrecerá, sino la totalidad, son hombres. La mujer ha sido borrada de la historia.
En cambio, si escribimos «colegiala», la inmensa mayoría de estas imágenes van a ser chicas jóvenes con una pose sexual provocativa. Contribuyendo a cosificar a la mujer. Esta es una muestra del pensamiento imperante en la sociedad.
Otra de las polémicas que se ha abierto recientemente, es el uso de la IA en los sistemas de administración de justicia. Hay quien defiende que una herramienta de IA puede dictar sentencias de una manera más ecuánime, más justa y más rápida que un juez. Un programa de Inteligencia Artificial es capaz de procesar un expediente judicial en segundos. Puede, incluso, sintetizar toda la legislación aplicable al caso y el historial de jurisprudencia asimilable al asunto. Pero carece de esa adaptación concreta a los hechos que ofrece la interpretación de un juez. En este caso, la I.A. puede ser un instrumento valioso que ayude al juez, pero no lo puede reemplazar.
La generación de contenido por IA: textos, imágenes, vídeos, audios, es otro asunto que está suscitando debate. ¿Tiene el mismo valor un libro generado por Inteligencia Artificial que otro redactado por un escritor? De entrada, plataformas como KDP, la web de autopublicación de Amazon, preguntan a los editores si el contenido ha sido generado total o parcialmente con IA, incluida la portada del libro. Algunas redes sociales obligan a los creadores a indicar si el contenido que comparten es generado por IA.
La protección de datos.
La web World Compliance Association informa que la Ley Orgánica de Protección de Datos de 1999 obliga a que el uso de la inteligencia artificial sea transparente y seguro. Pidiéndole permiso a la persona sobre el derecho a usar sus datos personales y la finalidad para la cual se van a utilizar.
Cuando esta ley se aprobó, no era popular la IA. A la mayoría de los ciudadanos nos sonaba a chino. Sin embargo, esta ley se adelantó al uso telemático de datos y está sirviendo de modelo para legislar este asunto en muchos países.
A tenor de esta ley, no se pueden divulgar datos sobre salud, religión, ideas políticas, estado fiscal o información bancaria de ninguna persona u organización.
Si estos datos se filtran, pueden ser objeto de multas y sanciones económicas altas; así como la exigencia de responsabilidades civiles y de indemnizaciones para las personas afectadas.
Esto obliga a toda empresa a mantener estos datos fuera del alcance de las herramientas de Inteligencia Artificial, y a que se efectúe una revisión humana del trabajo que realice la IA.
Una de las aplicaciones habituales de la IA en internet es la del empleo de chatbots de atención al cliente dentro de las páginas web de las empresas. Con estos chats, las webs intentan aclarar las dudas de los usuarios y gestionar algunas de sus reclamaciones.
Cuando sucede esto, es obligatorio informar al usuario de que está interactuando con un programa de inteligencia artificial y no con un humano. Del mismo modo, si se solicitan datos personales, el usuario previamente debe dar su consentimiento rellenando un impreso digital. No hacerlo así, es denunciable.
El artículo 22 del Régimen General de Protección de Datos (RGPD) establece que ningún ciudadano puede ser objeto de decisiones tomadas únicamente por medios automatizados, incluida la elaboración de perfiles. Estas decisiones siempre deben estar corregidas y autorizadas por un humano. Su incumplimiento tiene responsabilidades legales.
Propiedad intelectual.
La Inteligencia Artificial no se nutre de la nada. Todo el contenido que genera o la información que procesa proviene de documentos que previamente han sido elaborados. Se dice que ChatGPT se alimenta de una cantidad ingente de libros, artículos y enciclopedias, tal y como explica National Geographic.
Por otro lado, el chat de Google, Gemini, obtiene la información, como señala Page On, de todo el contenido volcado en internet y del ecosistema de Google.
Esto quiere decir que la base del trabajo de las herramientas de IA generativa es material que ya ha sido publicado y que, por tanto, es susceptible de vulnerar las leyes sobre propiedad intelectual o industrial.
Los programadores suelen tener cuidado en no infligir estas normas, pero hay casos en los que el plagio es detectable. Si esto se produce, solo el autor del contenido original, o quien tiene los derechos, es quien puede denunciarlo.
La importancia del asesoramiento legal.
Por todo lo que estamos viendo, los abogados de Ejaso, una firma que se encuentra en el top de los 20 mejores bufetes de España por facturación, con oficinas en varias ciudades de España, Portugal y EE. UU., y en la que trabajan más de 250 profesionales especializados en diferentes ramas del derecho, señalan que es fundamental contar con un asesoramiento legal especializado en Inteligencia Artificial.
Esta cuestión atañe sobre todo a las empresas que utilizan herramientas de IA, y que, como hemos visto antes, deben ser precavidas en el uso de datos personales, en el respeto a la propiedad intelectual, en un uso ético de los algoritmos y en cumplir la normativa vigente.
Este es un tema delicado. Aunque para muchos, la legislación sobre IA es escasa e insuficiente, la mayoría de las empresas la desconocen. Por lo que no es extraño que al utilizar esta tecnología se pueda incurrir en responsabilidades legales.
Un trabajo bien hecho de asesoramiento legal en materia de Inteligencia Artificial no puede limitarse a representar a sus clientes en caso de que sean objeto de una demanda judicial. Debe informar al usuario de los riesgos que entraña esta tecnología, partiendo del uso concreto que la empresa le vaya a dar, y supervisar, a un nivel, la utilización que se esté haciendo de la misma. Previniendo, de esta manera, posibles problemas mayores.
El reglamento de la Unión Europea.
La Unión Europea se ha puesto a la cabeza en la legislación del uso de la Inteligencia Artificial. Lo hizo a través de un reglamento específico que aprobó en julio del 2024. Como explican los abogados de Ejaso en su página web, este reglamento contrae una serie de obligaciones y requisitos para las empresas.
Entre otras cosas, este reglamento obliga a las empresas a una total transparencia en el uso de esta tecnología. Esto quiere decir que, tanto si se utiliza a nivel interno, como si se emplea para clientes, proveedores y otros usuarios, la persona que lo usa debe estar informada de que está interactuando con un programa de IA.
Las empresas están obligadas a formar correctamente a sus trabajadores en el uso de estas herramientas. Así como en el respeto a los límites éticos y legales que atañen a su uso concreto.
Las organizaciones empresariales deben identificar los riesgos que entraña el uso de herramientas de IA. En el caso de que existan riesgos altos, como en la administración de recursos humanos, como puede ser el filtrado de currículum vitae o procesos de selección de personal, siempre debe haber una supervisión humana.
No debemos olvidar nunca que la IA es una herramienta. No tiene efectos directos de por sí. El responsable de su uso es quien la utiliza o quien la ha diseñado.
