LA INCIDENCIA DEL REGLAMENTO EUROPEO DE INTELIGENCIA ARTIFICIAL EN EL DERECHO MERCANTIL Y EN EL DERECHO DE SOCIEDADES

La Resolución del Parlamento Europeo, de 12 de febrero de 2019, sobre una política industrial global europea en materia de inteligencia artificial y robótica, reclamó su tratamiento la Comisión, con el fin de promover un entorno normativo favorable al desarrollo de la inteligencia artificial respetuosa con los valores fundamentales de la Unión. Partió, a este efecto, de que la inteligencia artificial debe comprender no solo los sistemas de aprendizaje profundo, que requieren una enorme cantidad de datos, sino también una amplia gama de productos y aplicaciones. Esto abarca, asimismo, la automatización, los algoritmos y la inteligencia artificial débil y la inteligencia artificial general. Posteriormente, la Resolución del Parlamento Europeo, de 20 de octubre de 2020, incluyó recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas. Todo ello dio lugar, entre otras, a la Propuesta de Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial de 21 de abril de 2021, que, finalmente, ha visto la luz el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial).

En este contexto, la aparición de la IA es vista como un conjunto de tecnologías en rápida evolución que contribuye a generar beneficios económicos, medioambientales y sociales muy diversos en todos los sectores económicos y en las actividades sociales. Característica de esta tecnología, en todo caso, es su capacidad de inferencia, mediante la habilidad de los sistemas de IA para deducir modelos o algoritmos, o ambos, a partir de información de entrada o datos y dar lugar a un proceso de obtención de resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos y virtuales. Todo ello dentro de un entorno o contexto de funcionamiento. En consecuencia, las estrategias de aprendizaje automático permiten alcanzar determinados objetivos y estrategias, explícitos o implícitos, basados en la lógica y el conocimiento, que trasciende el tratamiento básico de datos, merced a que permite el aprendizaje, el razonamiento o la modelización. A ello se une que los sistemas de IA están diseñados para funcionar con distintos niveles de autonomía, lo cual permite que puedan actuar con cierto grado de independencia con respecto a la actuación humana, y, con ello, mostrar una capacidad de adaptación.

Muchos son los puntos de contacto de la inteligencia artificial con el Derecho mercantil que se reflejan en el Reglamento. Este pone el foco en el desarrollo, la introducción en el mercado, la puesta en servicio y la utilización de sistemas de inteligencia artificial («sistemas de IA»); todo ello en el marco de la libre circulación transfronteriza de mercancías y servicios basados en esta tecnología. Por otro lado, el Reglamento excluye de su ámbito de aplicación los sistemas y modelos de IA desarrollados específicamente y puestos en servicio únicamente con fines de investigación y desarrollos científicos.

En consecuencia, los sistemas de IA pueden tener un impacto relevante en sectores muy diversos de la economía, lo cual, a la postre, entraña la necesidad de la adopción de las medidas normativas oportunas para prevenir sus eventuales efectos perjudiciales. En particular, destaca el especial tratamiento dado a aquellos sistemas de alto riesgo para sectores estratégicos, en la prestación de servicios públicos esenciales y en las llamadas “infraestructuras digitales críticas”. Esto, al mismo tiempo, enlaza con los asuntos relativos a la ciberseguridad y con la exigencia de una certificación o una declaración de conformidad antes de su introducción en el mercado o de su puesta en servicio.

Por lo tanto, los sistemas de IA de alto riesgo deben diseñarse y desarrollarse de tal modo que las personas físicas puedan supervisar su funcionamiento, así como su correcto uso y sus repercusiones a lo largo de su ciclo de vida. Ello incluye un sistema de gestión de la calidad, un procedimiento de evaluación de la conformidad, la elaboración de la documentación pertinente y un sistema de vigilancia postcomercialización. Junto a lo anterior, el proveedor de estos sistemas, sea una persona física o jurídica, está llamado a asumir la responsabilidad asociada a su introducción en el mercado o a su puesta en servicio, junto con la delimitación de las funciones y la atribución de obligaciones específicas de los operadores – responsables del despliegue, importadores y distribuidores de sistemas de IA- a lo largo de toda la cadena de valor.

En particular, según el Reglamento de Inteligencia Artificial, las entidades bancarias o de seguros deben llevar a cabo una evaluación de impacto relativa a los derechos fundamentales antes de su puesta en funcionamiento. Tal labor se ha de entender sin perjuicio del cumplimento normativo de las reglas de gobernanza interna y de gestión de riesgos en la prestación de los servicios financieros que presten, que también pueden utilizar sistemas de IA, y de las facultades de vigilancia y supervisión de los organismos públicos encargados de su control.

Por otro lado, el Reglamento reconoce que los modelos de IA divulgados con arreglo a una licencia libre y de código abierto que permita que los usuarios puedan acceder a ellos, o a sus versiones modificadas, y utilizarlos, modificarlos y redistribuirlos libremente, pueden contribuir a la investigación y la innovación en el mercado y, por lo tanto, pueden ofrecer importantes oportunidades de crecimiento para la economía del mercado interior. Junto a ellos, la aparición de modelos de IA de uso general, con al menos mil millones de parámetros, que se hayan entrenado con un gran volumen de datos mediante la autosupervisión a escala y que realizan una amplia variedad de tareas diferenciadas, incluyen los grandes modelos de IA generativa, que, a su vez, permiten la generación flexible de contenidos, por ejemplo, en formato de texto, audio, imágenes o vídeo. Aquí el problema surge de las fuentes de las que se nutren las técnicas de prospección de textos y datos para la recuperación y el análisis de tales contenidos, que pueden estar protegidos por derechos de autor y derechos afines. En este punto, la Directiva (UE) 2019/790 reconoce a los titulares de derechos un derecho de exclusión, de manera que estén facultados para evitar la prospección de textos y datos con sus obras, salvo que su finalidad sea la investigación científica, de  forma que el uso de contenidos protegidos por derechos de autor requiere la autorización del titular. Corresponde pues su consecución a los proveedores que introduzcan modelos de IA de uso general en el mercado.

En este marco, los proveedores de modelos de IA de uso general están obligados a elaborar y poner a disposición del público un resumen de los contenidos utilizados para el entrenamiento del modelo. Ello ha de permitir que las partes con intereses legítimos, como los titulares de derechos de autor, puedan ejercer sus derechos. Para ello habrán de revelar los principales conjuntos o recopilaciones de datos que hayan servido para entrenar al modelo, como los grandes archivos de datos o las bases de datos privados, y proporcionar una explicación descriptiva sobre otras fuentes de datos utilizadas. En este aspecto, otro aspecto sensible lo constituye el de la protección de los secretos comerciales y la información empresarial confidencial.

Además, el Reglamento confiere formas simplificadas de cumplimiento y de gestión de la calidad para aquellos proveedores que tengan la condición de pymes, incluidas las empresas emergentes, a fin de evitarles costes excesivos que puedan desincentivar el uso de tales modelos de IA de uso general. A ellas, por otra parte, presta particular atención en otros aspectos regulatorios. Entre otros, su acceso prioritario a los espacios controlados de pruebas para la IA, a fin de impulsar la innovación mediante un entorno de experimentación y prueba controlado en la fase de desarrollo, previa a la comercialización, y, de este modo, garantizar el cumplimento normativo, así como la facilitación de canales de comunicación específicos.

De un lado, el uso de la IA puede proporcionar ventajas competitivas esenciales a las empresas y facilitar la obtención de resultados positivos desde el punto de vista económico, social y medioambiental. La necesidad de regulación parte, no obstante, de la oportuna protección de los consumidores y demás personas que puedan verse afectados negativamente por los sistemas de IA, particularmente en el ámbito de la utilización de datos personales. En tal sentido, la técnicas de manipulación que posibilita la IA pueden utilizarse para persuadir a las personas de que adopten comportamientos no deseados o para desarrollar prácticas comerciales engañosas, que, en definitiva, afecten a su toma de decisiones y a su capacidad de libertad de elección, lo cual puede tener implicaciones relevantes, entre otros ámbitos, en sus intereses financieros. Todo ello puede tener su traslación en el ámbito de la competencia desleal y de las prácticas comerciales desleales y de la publicidad. Con todo, en este aspecto todavía cabría considerar que las prácticas comerciales comunes y legítimas, aun cuando recurran a la IA, y que, por lo tanto, cumplan con las exigencias regulatorias, no constituyen, en sí mismas, prácticas de manipulación desleales.

En el ámbito de la información a los consumidores, los riesgos de fraude o engaño reclaman, además, la exigencia de que los proveedores de tales sistemas integren soluciones técnicas que permitan marcar, en un formato legible por máquina, y detectar que el resultado de salida ha sido generado o manipulado por un sistema de IA. Entre las diferentes posibilidades, el Reglamento apunta la integración de  marcas de agua, identificación de metadatos,  métodos criptográficos para demostrar la procedencia y la autenticidad del contenido, métodos de registro e impresiones dactilares u otras técnicas, según los casos, tanto en los sistemas como en los modelo de IA.

En el marco de la contratación a distancia y por medios digitales y también de la actuación de socios y administradores en la constitución en línea y en el funcionamiento de los órganos sociales por medios telemáticos de las sociedades y otras personas jurídicas, de otro lado, se advierten, con particular significación, los problemas asociados a la suplantación de la identidad. Determinados sistemas de IA destinados a interactuar con personas físicas, sean o no calificados de alto riesgo, pueden plantear riesgos específicos de suplantación o engaño. Ante ello, el Reglamento de Inteligencia Artificial impone, en determinadas circunstancias, obligaciones de transparencia específicas, de modo que las personas físicas que estén interactuando con un sistema de IA tengan conocimiento de ello. El Reglamento de Inteligencia Artificial excepciona, sin embargo, todos aquellos supuestos en los que resulte evidente desde el punto de vista de una persona física normalmente informada y razonablemente atenta y perspicaz, teniendo en cuenta las circunstancias y el contexto de utilización, que se trata de un sistema de IA.

Son muchas y variadas, por lo tanto, las perspectivas desde las cuales la regulación en materia de Inteligencia Artificial puede incidir en las materias relacionadas con el Derecho mercantil. Algunas de ellas, de las que tan solo se ha hecho un esbozo, afectan, por su relevancia en el mercado, en contraposición a las actividades científicas, a los derechos de los consumidores, en particular a través de aquellas conductas que puedan reputarse desleales, así como a los creadores y empresarios, mediante la tutela de los derechos de autor y los secretos empresariales. Por otra parte, el Reglamento confiere cierta tutela a las pymes y, en particular a las empresas emergentes, en el recurso y desarrollo a esta tecnología. Por último, las cuestiones alrededor de la suplantación de la identidad de las personas mediante la utilización de la IA en el ámbito de la contratación y, por extensión en el Derecho de sociedades, igualmente merecen una adecuada respuesta jurídica.

Por cierto, el presente texto no ha sido redactado por un robot ni se ha utilizado la inteligencia artificial a tal fin. Feliz verano.