Por ello, la IA se ha convertido en una herramienta esencial para que la función de Compliance pueda responder a las demandas crecientes de los reguladores, de los clientes y de los accionistas en un entorno cada vez más complejo y dinámico.

Tradicionalmente, la función de Compliance implicaba procesos intensivos en tiempo y también en recursos, con una gran dependencia de las tareas manuales para monitorear y asegurar el cumplimiento de las normativas internas y externas.

Consecuentemente con ello, cabe afirmar, que la IA ha permitido automatizar estos procesos y hacerlos más efectivos, facilitando una supervisión más amplia y continua en tiempo real.

PELIGROS DE LA IA

No obstante, ello, la IA presenta algunos peligros significativos que tienen un amplio impacto en el ámbito del Compliance, que van desde el desplazamiento de puestos de trabajo, hasta problemas de seguridad y privacidad, siendo completamente necesario fomentar la concienciación sobre estos problemas, y con ello, analizar las implicaciones legales, éticas y sociales vinculadas con el desarrollo y la aplicación de la IA.

Dentro de los riesgos, que de manera habitual se definen en los entornos de IA, podemos señalar, entre otros, a aquellos a los que se va a hacer alusión seguidamente.

La falta de transparencia en los sistemas de IA, especialmente, en los modelos de aprendizaje profundo, que pueden ser sumamente complejos y difíciles de interpretar, y, que en la práctica constituye un problema cada vez más acuciante.

Esta opacidad oscurece los procesos de toma de decisiones, y afecta también a la lógica subyacente de estas tecnologías.

Cuando las personas no pueden comprender cómo un sistema de IA llega a una serie de conclusiones, lo habitual es que genere desconfianza y resistencia a adoptar estas tecnologías.

La existencia de prejuicios y supuestos de discriminación debe tenerse presente, ya que los sistemas de IA pueden perpetuar o amplificar inadvertidamente los prejuicios sociales de todo tipo, debido a la utilización de datos de entrenamiento sesgados, o, al diseño algorítmico.

Para minimizar la discriminación y garantizar la equidad, se hace cada vez más necesario invertir en el desarrollo de algoritmos imparciales, y, en conjuntos de datos de entrenamiento con perfiles y características diversas.

También debe tenerse presente la cada vez más creciente preocupación por la privacidad.

SERIOS PROBLEMAS RELACIONADOS CON LA PRIVACIDAD

Las tecnologías de IA se caracterizan por recopilar y analizar grandes cantidades de datos personales, lo que plantea serios problemas relacionados con la privacidad, y, también con la seguridad de los datos.

Para mitigar los riesgos que afectan a la privacidad, en el ámbito de las organizaciones y demás personas jurídicas se debe abogar por una normativa estricta de protección de datos, así como por la adopción de prácticas seguras de tratamiento de los mismos.

El establecimiento de valores y dilemas éticos constituye otro tema o riesgo a considerar.

Con tal fin, es preciso cada vez más inculcar valores morales y éticos a los sistemas de IA, especialmente en contextos de toma de decisiones con consecuencias importantes y trascendentes, ya que supone un reto muy considerable.

En este sentido, cabe afirmar que los investigadores y desarrolladores deben dar prioridad a las implicaciones éticas de las tecnologías de IA para evitar impactos sociales negativos.

SEGURIDAD

Otro riesgo importante que considerar en el ámbito de aplicación de la IA dentro del ámbito de los riesgos, son aquellos que afectan a la seguridad

A medida que las tecnologías de IA se vuelven cada vez más sofisticadas, también aumentan los riesgos de seguridad asociados a su uso, y, el potencial de uso indebido de esta tecnología.

Los piratas informáticos y los actores maliciosos pueden aprovechar el poder de la IA para desarrollar ciberataques más avanzados, eludir las medidas de seguridad, y, explotar las vulnerabilidades de los sistemas.

El auge del armamento autónomo impulsado por IA también suscita preocupación por los peligros de que Estados delincuentes, o, agentes no estatales utilicen esta tecnología de manera perversa y maliciosa, especialmente, si tenemos en cuenta la posible pérdida de control humano en los procesos críticos de toma de decisiones.

Para mitigar estos riesgos de seguridad, los gobiernos y las organizaciones deben desarrollar las mejores prácticas para el desarrollo, y, el despliegue seguro de la IA, y, con ello tratar de fomentar la cooperación internacional para establecer normas y reglamentos mundiales que protejan contra las amenazas a la seguridad de la IA.

OTRO RIESGO: LA CONCENTRACIÓN DE PODER

Un elemento a tener en cuenta dentro de los posibles riesgos derivados de la IA es el que hace referencia a la concentración de poder.

El riesgo de que el desarrollo de la IA esté dominado por un pequeño número de grandes empresas y de gobiernos podría exacerbar la desigualdad y limitar la diversidad en las aplicaciones de la IA.

Por ello, el hecho de fomentar el desarrollo descentralizado y colaborativo de la IA es clave para evitar una concentración de poder.

Otro factor de riesgo a ponderar es la cada vez más significada dependencia de la IA.

La dependencia excesiva de los sistemas de IA puede conducir a una pérdida de creatividad, capacidad de pensamiento crítico e intuición humana.

Lograr un equilibrio entre la toma de decisiones asistida por IA y la aportación humana es vital para preservar nuestras capacidades cognitivas.

En este orden de cosas, otro factor a tener en cuenta es el desplazamiento laboral como consecuencia de la implantación de la IA.

PÉRDIDA DE PUESTOS DE TRABAJO

La automatización impulsada por la IA puede provocar la pérdida de puestos de trabajo en varios sectores, sobre todo entre los trabajadores poco cualificados (aunque hay pruebas de que la IA y otras tecnologías emergentes crearán más puestos de trabajo de los que eliminarán), pero esta es una inversión probablemente más de futuro que todavía hoy de presente.

A medida que las tecnologías de IA siguen desarrollándose y haciéndose más eficientes, la mano de obra debe adaptarse y adquirir nuevas habilidades para seguir siendo relevante en el cambiante panorama.

Se trata, en definitiva, de poner sobre la mesa aquellas medidas que eviten que a través de la IA se produzca una brecha basada en desigualdades de personas, sobre la base de diferenciar aquellos que están familiarizados con la IA, de aquellos que desconocen sus características y su aplicación y uso en la práctica.

Esto es especialmente cierto y preocupante para aquellos trabajadores menos cualificados de la mano de obra actual.

DESIGUALDAD ECONÓMICA

Otro elemento de riesgo que debe ser considerado dentro de esta panorámica general del uso de la IA, es el que afecta a la desigualdad de carácter económico.

La IA tiene el potencial de contribuir a la desigualdad económica, al beneficiar desproporcionadamente a las personas y empresas más ricas, y que pueden hacer una mayor y mejor aplicación de esta nueva técnica.

Como ya hemos mencionado, es más probable que las pérdidas de empleo debidas a la automatización impulsada por la IA afecten a los trabajadores poco cualificados, lo que provocará un aumento de la brecha salarial y reducirá las oportunidades de movilidad social.

Como antes se indicó, la concentración del desarrollo y la propiedad de la IA en un pequeño número de grandes corporaciones y gobiernos puede exacerbar esta desigualdad, ya que acumulan riqueza y poder mientras las empresas más pequeñas luchan por competir.

Las políticas e iniciativas que promueven la equidad económica –como los programas de reciclaje profesional, las redes de seguridad social y un desarrollo inclusivo de la IA que garantice una distribución más equilibrada de las oportunidades– pueden ayudar a combatir la desigualdad económica.

Existen también determinados retos jurídicos y normativos, que pueden llegar a convertirse en obstáculos y riesgos legales derivados de la implementación de la IA.

Se trata, en desarrollar nuevos marcos jurídicos y normativos para abordar los problemas específicos que plantean las tecnologías de IA, como la responsabilidad y los derechos de propiedad intelectual.

Los sistemas jurídicos deben evolucionar para seguir el ritmo de los avances tecnológicos y proteger los derechos de todos.

CARRERA ARMAMENTÍSTICA BASADA EN LA IA

La carrera armamentística basada en la IA representa un nuevo riesgo a considerar

Así, la posibilidad de que los países se enzarcen en una carrera armamentística basada en la IA podría conducir a un rápido desarrollo de las tecnologías de IA con consecuencias potencialmente perjudiciales.

Recientemente, un número importante de investigadores, han instado a los laboratorios de inteligencia a pausar el desarrollo de sistemas avanzados de IA.

En su mensaje se afirma, que las herramientas de IA presentan «profundos riesgos para la sociedad y la humanidad», ya que la humanidad puede disfrutar de un futuro floreciente con la IA.

Habiendo tenido éxito en la creación de potentes sistemas de IA, ahora podemos disfrutar de un ‘verano de IA’ en el que cosechemos las recompensas, diseñemos estos sistemas para el claro beneficio de todos y demos a la sociedad la oportunidad de adaptarse.

DESINFORMACIÓN Y MANIPULACIÓN, RIESGOS EVIDENTES

Otro elemento que debe considerarse como un elemento potencial de riesgo derivado de la IA, es el que hace referencia a la pérdida de conexión humana.

La creciente dependencia de la comunicación y las interacciones impulsadas por la IA podría conducir a una disminución de la empatía, las habilidades sociales y las conexiones humanas.

Para preservar la esencia de nuestra naturaleza social, debemos esforzarnos por mantener un equilibrio entre la tecnología y la interacción humana.

La desinformación y la manipulación constituyen riesgos adicionales derivados del uso de la IA

Los contenidos generados por IA, como los deepfakes, contribuyen a la difusión de información falsa y a la manipulación de la opinión pública.

Los esfuerzos para detectar y combatir la desinformación generada por la IA son fundamentales para preservar la integridad de la información en la era digital.

En un estudio de la Universidad de Stanford sobre los peligros más acuciantes de la IA, los investigadores afirman: «Los sistemas de IA se están utilizando al servicio de la desinformación en Internet, lo que les confiere el potencial de convertirse en una amenaza para la democracia y en una herramienta para el fascismo».

Desde los vídeos deepfake hasta los bots online que manipulan el discurso público fingiendo consenso y difundiendo noticias falsas, existe el peligro de que los sistemas de IA socaven la confianza social.

La tecnología puede verse apropiada por criminales, estados deshonestos, extremistas ideológicos o simplemente grupos de intereses especiales, con el fin de manipular a las personas para obtener ganancias económicas o ventajas políticas.»

También hay que plantearse dentro de estos riesgos potenciales, aquellos que son debidos a consecuencias inicialmente imprevistas, pero que pueden generar importantes daños y desigualdades a colectivos sociales.

UNA IA QUE SUPERE A LA INTELIGENCIA HUMANA

Los sistemas de IA, debido a su complejidad y a la falta de supervisión humana, pueden mostrar comportamientos inesperados o tomar decisiones con consecuencias imprevistas.

Esta imprevisibilidad puede traer consigo consecuencias negativas para las personas, las empresas o la sociedad en su conjunto.

Unos procesos sólidos de prueba, validación y supervisión de la IA pueden ayudar a los desarrolladores e investigadores a identificar, y, solucionar este tipo de problemas antes de que se agraven.

También cabe mencionar otra tipología de riesgos, denominados “riesgos existenciales”.

El desarrollo de una inteligencia general artificial (AGI) que supere la inteligencia humana plantea preocupaciones a largo plazo para la humanidad.

La perspectiva de la AGI podría tener consecuencias imprevistas y potencialmente catastróficas, ya que estos sistemas avanzados de IA podrían no estar alineados con los valores o prioridades humanas.

Para mitigar estos riesgos, la comunidad investigadora de la IA debe participar activamente en la investigación sobre seguridad, colaborar en la elaboración de directrices éticas y promover la transparencia en el desarrollo de la AGI.

Consecuentemente con ello, resulta primordial garantizar que la IA sirva a los intereses de la humanidad, y, no suponga de manera principal una amenaza para nuestra existencia.

Una vez analizados estos riesgos potenciales que pueden derivarse del desarrollo y el uso de la IA, y de manera complementaria a ellos, debe valorarse como afectan estos riesgos a cualquier organización, especialmente en lo que atañe al Compliance.

IMPACTO DE LA IA EN FUNCIONES CLAVE

Para ello se hace preciso analizar el impacto que ello puede tener en algunas funciones clave, en las que la IA contribuye a la implementación y aplicación del Compliance dentro de las organizaciones, y, que son, entre otras, las siguientes:

a). En la automatización de procesos repetitivos.

La IA permite automatizar tareas repetitivas y administrativas que tradicionalmente requerían mucho tiempo, como la revisión de contratos, la verificación de antecedentes de proveedores, o el monitoreo continuo de normativas y actualizaciones legales.

Esta función ayuda a reducir el error humano, y, al mismo tiempo, optimiza el uso de los recursos.

b). En la monitorización de transacciones financieras y detección de anomalías.

En sectores como el financiero, la IA se utiliza para analizar grandes volúmenes de transacciones en tiempo real, y, poder detectar así patrones anómalos, que podrían indicar actividades sospechosas, como el lavado de dinero o el fraude.

c). En el uso de algoritmos de machine learning permite identificar riesgos antes de que ocurran.

d). En el análisis predictivo de riesgos.

Mediante el análisis de grandes conjuntos de datos históricos, la IA puede prever dónde podrían surgir riesgos futuros de incumplimiento.

Esta aplicación de la IA permite a los equipos de Compliance actuar de manera proactiva en lugar de reactiva, desarrollando planes de mitigación y aplicando controles preventivos.

e). En la monitorización de las comunicaciones.

La IA puede analizar comunicaciones internas, como correos electrónicos y mensajes, en busca de lenguaje o comportamientos que puedan indicar posibles infracciones o conflictos éticos, como el uso de información privilegiada o el acoso laboral.

La IA puede colaborar activamente en la identificación de los problemas existentes en la organización antes de que se agraven los mismos.

f). En la detección de fraudes internos.

La IA es capaz de analizar datos relacionados con compras, pagos y otros procesos internos para detectar patrones que puedan indicar fraude, corrupción o sobornos.

Al detectar anomalías en las transacciones o comportamientos atípicos, la IA ayuda a evitar fraudes antes de que se produzcan.

g). En las llamadas “auditorías automáticas”.

Gracias a la IA, las auditorías pueden automatizarse para monitorizar actividades en tiempo real.

Por ejemplo, se pueden implementar sistemas de control, que revisen automáticamente las acciones financieras de la empresa, alertando sobre actividades sospechosas o no conformes con las políticas internas o externas.

h). En el Compliance en normativas de protección de datos.

La IA ayuda a las empresas a cumplir con normativas como el Reglamento General de Protección de Datos (RGPD), gestionando de manera más eficiente los datos personales.

Los sistemas basados en IA pueden identificar qué datos deben protegerse, ayudar a su encriptación, y, garantizar su eliminación cuando ya no sean necesarios.

i). En la optimización de los canales de comunicaciones y/o denuncias.

Los sistemas de IA pueden procesar denuncias de manera más eficiente, clasificándolas y priorizándolas en función de su gravedad y relevancia.

Además, la IA puede analizar tendencias en las denuncias, identificando patrones de comportamiento que indiquen un problema más amplio en la organización.

j). En la revisión automatizada de contratos.

Los sistemas de IA pueden revisar contratos y documentos legales en busca de cláusulas que no cumplan con las normativas aplicables o que puedan exponer a la organización a riesgos legales.

Esta revisión automatizada acelera los procesos y reduce considerablemente el margen de error que puede existir en este tipo de procesos.

k)). En la capacitación personalizada y adaptativa.

La IA también puede utilizarse para diseñar programas de formación en Compliance adaptados a las necesidades de cada empleado, analizando sus roles y el nivel de exposición al riesgo.

Además, la IA puede monitorear el progreso de la capacitación y ajustar los contenidos en función del desempeño de los empleados.

De manera adicional a lo ya indicado, es procedente analizar la trascendencia de la IA en la función de Compliance.

POR QUÉ LA IA ES IMPORTANTE EN LA FUNCIÓN DE COMPLIANCE

Así, la importancia de la IA en la función de Compliance es cada vez mayor debido a los siguientes factores:

a). En la eficiencia operativa.

la IA reduce el tiempo y los recursos necesarios para llevar a cabo tareas repetitivas, lo que permite a los equipos de Compliance centrarse en actividades más estratégicas y complejas.

b). En la reducción del error humano.

Al automatizarse los procesos y aplicarse los algoritmos sofisticados, la IA minimiza el riesgo de errores humanos en la detección de riesgos o en el análisis de datos, lo que aumenta la fiabilidad de los sistemas de cumplimiento.

c). En la capacidad para manejar grandes volúmenes de datos.

Las empresas manejan una cantidad creciente de datos, lo que hace que la supervisión manual sea ineficiente.

La IA tiene la capacidad de analizar grandes volúmenes de datos de manera rápida y precisa, identificando patrones y anomalías que de otro modo pasarían desapercibidos.

d). En la prevención de carácter proactiva de contingencias

Gracias al análisis predictivo, la IA no solo detecta riesgos, sino que también los anticipa, lo que permite a las empresas actuar de manera proactiva para evitar problemas antes de que se materialicen.

e). En la mejora continua del sistema de Compliance.

Los sistemas de IA, especialmente aquellos basados en machine learning, pueden aprender y mejorar con el tiempo, adaptándose a nuevos riesgos y normativas, y ajustándose a las necesidades cambiantes de la organización.

Y todo ello lleva consigo nuevos desafíos en el ámbito del Compliance propiciados por el desarrollo y el uso de la IA.

DESAFÍOS DE LA IMPLEMENTACIÓN DE LA IA EN LA FUNCIÓN DE COMPLIANCE

A pesar de los beneficios, la implementación de la IA en la función de Compliance también presenta algunos desafíos:

Por ejemplo, se suele hacer referencia a la exigencia de transparencia y a la explicabilidad, ya que la IA puede ser vista como una «caja negra» que toma decisiones sin que los humanos comprendan del todo cómo se llegan a ellas.

Esto plantea problemas, precisamente, de transparencia y explicabilidad, que son esenciales en los entornos regulatorios.

Del mismo modo debe tenerse presente la necesidad del cumplimiento de los valores éticas

Así, el uso de IA debe ser controlado para asegurar que se respeten los derechos de los empleados, proveedores, y clientes.

Las normativas de privacidad y derechos humanos imponen límites al uso de datos personales en algoritmos de IA.

SESGO ALGORÍTMICO

Otro factor al que ya se ha hecho referencia en estas notas es el que hace referencia al llamado “sesgo algorítmico”.

Si los datos utilizados para entrenar los sistemas de IA contienen sesgos, estos pueden perpetuar o amplificar prácticas discriminatorias, lo que puede generar riesgos legales y reputacionales para la empresa.

Todo ello lleva a una serie de planteamientos vinculados al uso en la función de Compliance de la inteligencia artificial (IA), lo que determina la existencia de una combinación muy competitiva, que permite mejorar la eficiencia y la precisión en la supervisión y gestión de riesgos normativos.

Sin embargo, su implementación debe hacerse de manera cuidadosa, asegurando la transparencia, la ética y la protección de derechos fundamentales, todo ello de manera plenamente integrada y de forma simultánea.

A medida que el mundo asiste a un crecimiento sin precedentes de las tecnologías de inteligencia artificial (IA), tal como se ha puesto de manifiesto, es esencial tener en cuenta los posibles riesgos y desafíos asociados a su adopción generalizada.

Por todo ello, se puede afirmar que el Compliance tiene un papel fundamental en el control y supervisión de la inteligencia artificial (IA) dentro de las organizaciones, asegurando que se utilice de manera ética, conforme a la ley y en línea con las políticas internas de la empresa.

Mediante el desarrollo de políticas de ética, de la gestión de riesgos, de la supervisión continua, y prestando un especial apoyo e interés a la formación y capacitación de los empleados, el Compliance puede garantizar que la IA aporte beneficios a la organización sin comprometer con ello su integridad legal o de carácter reputacional.

A medida que la IA sigue avanzando, y, se convierte en una herramienta más, integrada en las operaciones corporativas, el papel del Compliance en su control será cada vez más crítico para mitigar riesgos y asegurar un uso responsable de la misma.