Muchas entidades, en el sector privado pero también en el público, tienen urgencia por acelerar el uso de la IA en sus organizaciones. Por eso están buscando casos de uso, como los recogidos en esta útil herramienta desarrollada por Apolitical.

El reto, sin embargo, está en pasar de la prueba a la implantación —responsable y a escala.

De hecho, el valor de la IA en algunos servicios, como el de atención ciudadana, son evidentes: disponibilidad 24/7, accesibilidad más allá de los canales digitales, diversidad de lenguas de atención y una capacidad cada vez mayor de resolver trámites de extremo a extremo. 

Entonces, ¿qué está impidiendo a las Administraciones públicas adoptar estas herramientas?

En Europa, la respuesta en parte tiene que ver con cómo la Unión Europea (UE) está enfocando una cuestión clave: generar confianza en la IA.

Por qué más transparencia no equivale a mayor confianza

El pasado junio, la UE publicó un Código de Buenas Prácticas sobre la Transparencia de los Contenidos Generados por IA. Este documento de 38 páginas recoge compromisos "voluntarios" que empresas de sistemas de IA pueden suscribir para cumplir con las obligaciones de transparencia del Artículo 50 del Reglamento de IA. Aunque sean compromisos “voluntarios”, las empresas que no firmen antes de la fecha límite (hoy, día 27 de julio) deberán demostrar por otros medios cómo cumplen con el artículo 50.

Con la firma del Código de Buenas Prácticas, las empresas se comprometen a incluir marcas de agua (watermarks) y metadatos con firma digital en el contenido generado por IA. Además, los deep fakes y aquellos textos que sirvan un fin de interés público deben mostrar un icono de “IA” para declarar la intervención de la IA en su producción o modificación.
‍

‍

Con estas obligaciones de transparencia, la UE busca aumentar la confianza en el contenido generado por IA. El fin, sin embargo, no justifica el medio. Uno, porque no creo que consiga el objetivo perseguido. Dos, porque puede terminar frenando la implantación útil y valiosa de la IA. 

Veo al menos tres debilidades en el enfoque de la UE:

1. Primero, asume que a la gente le preocupa que un determinado contenido haya sido creado por la IA. Puede, pero sospecho que, en general, lo que preocupa es si el contenido es preciso, veraz y fiable, independientemente de cómo se haya creado. Si esto es cierto, ¿no sería más efectivo —y menos costoso— centrarse en asegurar la fiabilidad (cuando importe) del contenido?

2. Segundo, impone una enorme carga a las empresas de IA, que afectará particularmente a las más pequeñas y con menos recursos. Aunque el Código de Buenas Prácticas prevé mecanismos de proporcionalidad para las pymes, ¿qué sentido tiene crear costes sobre una premisa dudosa (que los usuarios revisarán el origen del contenido)? Por cierto, si la experiencia de la UE con las cookies nos sirve de ejemplo, podemos esperar que la gente preste poca atención al “icono IA”.

3. Y tercero, también impone una carga a los gobiernos. ¿Tienen capacidad los organismos de supervisión de monitorear todo el contenido generado por IA ? Además, lo que comprobarán es si un contenido tiene la etiqueta de “generado por IA”, no lo verdaderamente importante: el perjuicio real causado por ese contenido si es inexacto, engañoso o dañino.

Una herramienta más efectiva para conseguir confianza: la compra pública

Si lo que realmente nos importa es que el contenido —generado o no por IA— sea veraz y fiable, deberíamos poner el foco en eso y no tanto en la transparencia. Además, las leyes ya ofrecen protección para los usos perniciosos como el fraude, la suplantación de identidad, o la publicidad engañosa. Y no creo que añadir un icono aumenta la protección ante esos daños. 

Es lógico que los gobiernos y las entidades públicas quieran asegurarse de la veracidad del contenido generado por IA en el marco de su actividad. El estándar de confianza en el ámbito público ha de ser más alto que en el privado. Ahora bien, las Administraciones públicas tienen, precisamente, una herramienta más efectiva para conseguir este objetivo.

Todos los productos y servicios de IA que adquieran los gobiernos estarán sujetos a procesos de contratación y adjudicación. ¿Por qué no añadir garantías de responsabilidad por la precisión y confiabilidad de todo el contenido creado en el marco de esos contratos? 

Esto trasladaría el foco al objetivo real —la precisión y la confianza— y asigna a los proveedores la responsabilidad por garantizar que cumplen con ese propósito. Las empresas de IA deberán decidir cómo lograr ese objetivo (más allá de poner iconos o marcas). Por ejemplo, se pueden establecer estándares de veracidad, derechos de auditoría sobre los mecanismos de verificación del proveedor, y responsabilidad por errores o inexactitudes. Algunos de estos mecanismos pueden ser incluso más costosos para las empresas de IA que incluir un icono, pero lo importante es que serán mucho más efectivos y eficientes que agregar una etiqueta de manera indiscriminada.

Exigir confiabilidad a través de la compra pública además alinea incentivos. Una Administración comprando tecnología tiene un interés claro y directo en que se cumplan los estándares de veracidad y fiabilidad (desde luego mucho más directa que un organismo supervisando cantidades masivas de contenido). Y los proveedores, a su vez, querrán cumplir los requisitos establecidos con su cliente para evitar penalizaciones y, en último término, para renovar contratos y aumentar clientes.

De hecho, el Código ya reconoce que la responsabilidad por la precisión del contenido prima sobre la transparencia: la obligación de etiquetar el texto generado por IA desaparece cuando alguien asume la responsabilidad editorial del contenido. La responsabilidad sustituye a la divulgación. Incorporar la responsabilidad a la contratación pública simplemente integra ese principio en una relación contractual.

Mantener el objetivo, pero adaptando la herramienta

La UE tiende a regular en el nivel de la cadena que es más fácil de legislar — los proveedores de IA— en lugar de intervenir en el punto donde realmente ocurre el daño. Es un enfoque que puede parecer elegante en el papel, pero es muy caro para el que cumple y, en general, irrelevante para los que incumplen.

También puede ser contraproducente. El Plan de Acción del Continente de IA de la Comisión existe porque las empresas y los gobiernos europeos van lentos en el uso real de la IA. Exigir la adopción con una mano mientras se agregan obligaciones ineficaces con la otra solo aleja a Europa de estos objetivos sin aumentar la protección de los ciudadanos.

A menos que cambie su enfoque, Europa corre el riesgo de ganar en transparencia pero a costa del nivel de implantación de la IA. Sin embargo, si usan la contratación pública de forma inteligente, los gobiernos europeos podrían obtener los beneficios que ofrece la IA sin comprometer la confianza.

‍

‍

* Firma invitada: Fernando Fernandez-Monge. Senior Associate en Bloomberg-Harvard City Leadership Initiative en la Universidad de Harvard e investigador en el Institute for Innovation and Public Purpose en University College London. Una versión en inglés este artículo fue publicada en el Newsletter DataPolis.