El pasado viernes María Alió López hizo una brillante exposición sobre «Cómo el ordenamiento mercantil y societario podría responder satisfactoriamente a los avances de la Inteligencia Artificial», un Friday Tech Fever co-organizado en Torre Juana OST con el Grupo de Investigación «Economía de la Innovación y de la Inteligencia Artificial».
La investigación realizada por María propone buscar los principios y criterios que deben guiar la siguiente etapa de la digitalización de las sociedades mercantiles, de forma que la IA integrada a los procesos de decisión y gestión de los órganos de administración potencien no sólo la competitividad de las empresas y la modernización tecnológica en España, sino también la seguridad jurídica y la armonización de los diferentes intereses que conviven en el seno de una sociedad de capital. Una propuesta que persigue proponer alternativas viables sobre cómo nuestro ordenamiento mercantil y societario podría responder satisfactoriamente a los avances de la IA.
María contó al inicio de su intervención cómo tras leer el libro «Europa frente a EEUU y China, prevenir el declive en la era de la Inteligencia Artificial«, de Luis Moreno y Andrés Pedreño fue consciente de que la IA era un factor clave para el impulso de la economía. Por otra parte también se planteó la importancia de introducir esta tecnología en el seno del gobierno corporativo ya que permitiría una mejora en la gestión eficiente del capital social y en la toma de decisiones en favor del interés social; por ello, es imprescindible introducir esta tecnología, si queremos apoyar el desarrollo y digitalización de las sociedades de capital.
Asimismo, aplicando la IA al gobierno corporativo se pueden obtener numerosos beneficios para reducir problemas derivados de la responsabilidad de los administradores a la hora de tomar las decisiones en el órgano de administración de la sociedad , o bien, dirimir la subjetividad en la toma de decisiones en el seno del consejo de administración e igualmente obtener un gobierno más eficaz y por ende mejorar la productividad de las empresas e impulsar el crecimiento económico español.
Por otro lado, María nos hizo reflexionar acera de la importancia de implantar la IA para alcanzar la gestión eficiente y objetiva de la sociedad capitalista, el respeto de los deberes societarios y la toma de decisiones en interés de la sociedad.
María Alió López abordó su exposición a través de los siguientes puntos:
- Contexto del término IA (origen, definición, riesgos y beneficios) y el nivel de aplicación práctico de la IA en España en comparación con otros países.
- Análisis comparativo de la normativa publicada entorno a la IA y diferencias en la regulación y aplicación de esta tecnología en los órganos de administración.
- Dificultades prácticas e implicaciones societarias derivadas del uso de la IA. Análisis de las nuevas tecnologías en auge en este sector (FinTech, LegalTech…)y las consecuencias jurídicas que puede acarrear su implementación.
- Beneficios de la introducción de sistemas inteligentes en el órgano de administración de una sociedad de capital.
Por su interés reproducimos con algunos comentarios su presentación en la sesisón celebrada en Torre Juana OST.
1. Contexto del término IA (origen, definición, riesgos y beneficios) y el nivel de aplicación práctico de la IA en España en comparación con otros países.
En su exposición Maria Alió López partió del concepto IA (planteado por primera vez por Andreas Kaplan y Michael Haenlein) como un sistema que está diseñado para interpretar correctamente datos externos, aprendiendo de esa información y usando el conocimiento adquirido a fin de realizar tareas y lograr metas concretas mediante una adaptación flexible. Esto es, en otras palabras, el mecanismo por el cual las máquinas piensan como los humanos, elaborando procesos mentales inteligentes.»
Destacó las cuatro clases de IA de Arend Hintze: Máquinas reactivas; IA con memoria limitada; IA basada en la teoría de la mente; e IA con conciencia de sí misma. Por otro lado, destaco los dos grupos mayoritarios de IA: la IA»Débil» (como Alexa o Siri) sin conciencia propia, necesitada de la iniciativa humana, un esquema rígido con escasa redes neuronales y centrada en las tareas repetitivas. En contraposición una»IA fuerte», consciente de sí misma, capaz de tomar decisiones autónomas dotada de una red de conexiones neuronales fuerte y con capacidad para actuar de forma flexible.
Alió señaló en este apartado las problemáticas en contra y a favor de la IA
En contra:
- Delitos informáticos (Código Penal, en virtud de la Ley Orgánica 1/2015, de 30 de marzo) Ej: descubrimiento y revelación de secretos, delitos informáticos relativos a la propiedad intelectual e industrial, el sabotaje informático…
- Uso inapropiado de los datos provenientes de internet, webs, redes sociales.
- Sesgos discriminatorios de los softwares o algoritmos con IA.
A favor:
- Minimizar el error humano, mayor control y optimización de los procesos.
- Incrementar el ciclo de vida y el rendimiento de los equipos industriales.
- Minimiza el tiempo de análisis de datos, toma mejores decisiones gracias a una información mejor clasificada y es multifuncional, pues se puede aplicar a distintos ámbitos, sectores y funciones.
- Un estudio publicado por el Global Institute McKinsey sugiere que para 2030 la IA podría generar un valor económico de 13 billones de dólares americanos adicionales al nivel global actual.
Nivel de aplicación práctico de la IA en España
Más adelante, la ponente resaltó la situación de estancamiento tecnológico e infrautilización de los recursos digitales español y expuso en una gráfica, en la cual se podía observar que España ocupaba el puesto número 33 del Government AI readiness, el cual refleja la capacidad de innovación de un país y su aplicación de IA.
2. Análisis comparativo de la normativa publicada entorno a la IA y diferencias en la regulación y aplicación de esta tecnología en los órganos de administración
En este segundo punto María Alió abordó el marco regulatorio de la IA aplicada al Gobierno Corporativo desde una doble perspectiva: La propia normativa en IA y el nivel de aplicación de la IA en las sociedades referido especialmente a Estados Unidos, Unión Europea y España.
A) Estados Unidos
La ponente calificó la normativa norteamericana de las sociedades corporativas como flexible y dinámica tanto a nivel federal como estatal, haciendo referenci a la Delaware General Corporation Law
Se refirió igualmente a la regulación y avances de la IA en Estados Unidos:
- “Memorandum for the heads of Executive Departments and Agencies” – principios y marco regulatorio de la IA.
- Principles for the Stewardship of AI Applications
- Principio de libertad de contratación y preponderancia de los pactos privados en EE. UU. lo que equivale a «flexibilidad».
También hizo un análisis de la Business Judgment Rule
- Presunción iuris tantum a favor del Consejo de Administración: “presunción de juicio empresarial”.
- Con la IA reduciríamos la subjetividad y esta presunción no jugaría en ningún caso contra los administradores.
En cuanto a la IA aplicada al Board of Directors citó a Mark van Rijmenam; «La IA puede ayudar a agilizar los procesos de toma de decisiones, a transformar las grandes decisiones de los sentimientos viscerales a los conocimientos basados en datos, y a predecir mejor el resultado futuro de dichas decisiones». Asimismo, comentó algún caso en el que se había introducido la IA en el órgano de administración de una sociedad norteamericana; es el caso del fondo de capital riesgo: Deep Knowledge Ventures, el cual introdujo un consejero robot llamado VITAL que les recomendó a tomar decisiones más acertadas y gracias a él detectaron operaciones tóxicas o peligrosas que habrían ocasionado una pérdida al fondo y que gracias al robot se evitó invertir en esa operación. Finalmente, atestiguó que EE.UU. tiene el mejor plan estratégico y como objetivos reforzar la cibernética, la seguridad nacional e impulsar la economía.
En el siguiente gráfico podemos observar los distintos modos de aplicación de la IA en el Board of Directors de una sociedad de capital, desde el más esencial al más innovador.
B) Unión Europea
Por otro lado, María Alió López explicó la normativa que estaba vigente en derecho de sociedades de la UE, así como, la regulación por la que se había optado en la UE en materia de IA:
- Directiva (UE) 2017/1132 sobre el Derecho de sociedades.
Código unificado de buen gobierno de las sociedades cotizadas de la CNMV - Regulación de la IA en la UE
- Libro Blanco sobre la inteligencia artificial- un enfoque europeo orientado a la excelencia y confianza” (Bruselas en 2020).
Al respecto calificó la IA fiable conforme a la ley, teniendo en cuenta las implicaciones éticas y humanas de la IA. Pero paralelamente destacó su debilidad: falta de empresas fuertes a nivel tecnológico que puedan materializar la inversión necesaria en avances para la industria. También destacó el nivel de aplicación de la IA en el órgano de administración de las sociedades Europeas, subrayando una gran diferencia entre los estados a la hora de su adopción
En general, expuso un contexto en el que se observa que la IA está en una fase inicial de su desarrollo tecnológico, ya que, por ejemplo, en España sólo el 9% de las sociedades han incorporado sistemas de IA en sus empresas, la cual si se compara con países con menos demografía o recursos como puede ser Malta (19%) es una cifra de inversión muy preocupante.
C) España
Por último, en España se ha promulgado una Estrategia Nacional de Inteligencia Artificial en 2020 publicada por el Ministerio de Asuntos económicos y transformación digital, la cual plantea siete objetivos y un plan de acción con seis ejes. ”En esta estrategia se plantea “anteponer objetivos éticos y democráticos al desarrollo de la IA” y que España sea líder en tener un marco regulatorio apropiado, algo que se ha traducido en la práctica en una regulación que obstaculiza la difusión y desarrollo de la IA.
Por otra parte Alió destacó que la inversión en IA es escasa. De los fondos europeos Next Generation, el Gobierno de España solo pretende invertir un 0.7 % en IA, cifra que según Alió es preocupante en comparación con otros países y dificulta la implementación de la IA.
3. Dificultades prácticas e implicaciones societarias derivadas del uso de la IA. Análisis de las nuevas tecnologías en auge en este sector (FinTech, LegalTech…)y las consecuencias jurídicas que puede acarrear su implementación.
En este apartado María Alió se refirió a las causas de la «inaplicación» de la IA. Al respecto destacó un contexto caracterizado por:
- Poca inversión privada (Empresas pequeñas)
- Reglamento de protección de datos restrictivo
- Inversión UE en IA escasa (2.450 millones de euros) vs. Inversión EE.UU en IA (45.000 millones) o China (20.000 millones) [OCDE]
También se refirió al origen de las dificultades actuales
- Falta de un Mercado Único Digital (MUD) heterogeneidad normativa
- Insuficiencia e ineficiencia de inversión en I+D+i PYMES = 97% + escasa financiación pública
- Falta de ecosistemas digitales fuertes (Top 100 startups mayor capitalización bursátil- 8UE
Alió llevó a cabo un análisis de las nuevas tecnologías y su aplicación jurídica (fintech, regtech y legaltech).
En relación a las Fintech destacó:
- Prestación de productos o servicios financieros mediante la utilización de las TIC
- Gestiona el capital de los clientes y toma decisiones de inversión mediante el uso de algoritmos e IA
- Aplicación a una sociedad: Mejoraría la toma de decisiones y la gestión del capital de la empresa solución preconcursal (ante la insolvencia), garantizando la composición de la masa activa y la continuidad empresarial
En relación a las Regtech:
- Mejora el cumplimiento normativo (compliance)
- Evitaría sanciones, delitos y riesgos en el ámbito empresarial
Por último con respecto a las Legaltech:
- Facilitar la prestación de servicios legales Ej: búsqueda ordenada de jurisprudencia
- Solucionar problemas legales
- Asesoramiento jurídico de calidad, más productivo y eficiente
En este contexto la ponente se refirió a las «Alternativas y soluciones para la adopción y desarrollo de la IA«:
- Citó como referente el «Memorandum for the heads of Executive Departments and Agencies» modelo de regulación sobre IA más laxo y que se enfatice más en su aplicación empresarial que en la ética.
- Política fiscal más ventajosa para las empresas, más subvenciones para las PYMES necesario aumento de la UE para la difusión de la IA para mejorar su liderazgo internacional.
- Prever la adopción de sistemas inteligentes para la toma de decisiones por y para la mejora de los deberes de los administradores en el Órgano de Administración.
- Se refirió a la «IA AMPLIFICADA» entendida como consejos híbridos (consejero robot, – recomendación fiable) y sus ventajas: reducción de los problemas de conflicto societario en contra del interés de la sociedad y mejora en el gobierno y gestión del capital social. Ej: consejero artificial: VITAL – Deep Knowledge Ventures.
- Garantizar el desarrollo de la IA y de las FinTech, RegTech y LegalTech y su cabida en el derecho de empresa
4. Beneficios de la introducción de sistemas inteligentes en el órgano de administración de una sociedad de capital
En el último apartado de su exposición María se refirió a modo de conclusión a los beneficios y de las recomendación que podrían hacer efectivo el desarrollo de la IA:
- La IA tiene numerosos beneficios en concreto en el marco empresarial se reduciría el error humano y se obtendrían resultados más eficientes+ productividad de las empresas
- Necesidad de la digitalización de la UE y de España para mejorar su posición internacional (nº33 Goverment AI readiness)
- Tomar como referente a EE.UU. y apostar por una regulación de la IA más laxa en el marco empresarial.
- IA en el Consejo de Administración= (-) subjetividad de los administradores y tomar decisiones más objetivas en interés de la sociedad + mejor gestión del capital social.
- La UE debe regular sin obstaculizar la difusión de la IA y apoyar a las empresas con subvenciones, para impulsar la implementación de la IA
- España apuesta por una propuesta ética de IA y no invierte lo suficiente en la difusión de la IA la cifra de inversión española en I+D+i está por debajo de la media de la UE.
- Apostar por una relación más estrecha entre el Derecho y la tecnología-FinTech, RegTech y LegalTech= mejorar la toma de decisiones y la gestión empresarial (solución preconcursal, compliance, servicios jurídicos más eficientes).
- Implantar proyectos disruptivos consejos híbridos (personas y máquinas), esto se traduce en reducir los riesgos derivados del error humano y mejorar el gobierno societario y el cumplimiento de los deberes de los administradores.
Alió concluyó destacando como OBJETIVO: digitalizar el gobierno corporativo de las sociedades españolas, ayudando a alcanzar mayor RENTABILIDAD Y COMPETITIVIDAD en los mercados internacionales y una mayor posición de liderazgo tecnológico español
Tras la exposición hubo un debate muy interesante. El equipo de Devesa & Calvo, Sara Isabel Tortosa (Elzaburu), Luis Moreno (Director del Grupo ECO-IA) y los profesores Manuel Desantes y Andrés Pedreño intervinieron felicitando y haciendo preguntas a la ponente. Al respecto Andrés Pedreño citó la brillantez de sus exposicion y el enorme interés de algunas de sus propuestas. «El planteamiento de María Alió es muy valiente, ha antepuesto un análisis muy racional derivado de una situación real de desventaja de Europa frente a China y Estados Unidos, y no se ha dejado seducir por el establishment de Bruselas». Pedreño animó a la recién graduada en Derecho: María Alió López a seguir investigando y profundizando en estos temas. Los economistas necesitamos de juristas que profundicen en el desarrollo y el potencia de las tecnologías de utilidad general y pongan coto a los excesos de la regulación y sobretodo a la regulación ineficiente.
