Es importante darse cuenta que no es posible esperar que los modelos que usan Inteligencia Artificial, sin importar lo inteligentes que sean; operen sin supervisión y pruebas humanas. Incluso en el caso de los modelos para segmentación SARLAFT, los seres humanos expertos en la materia deben intervenir en el diseño, interpretación y uso de dichos modelos.
Los sistemas de segmentación SARLAFT pueden detectar de forma temprana, nuevas ventanas de riesgo, y operaciones inusuales en el comportamiento de nuestras contrapartes e ir tan rápido como los delincuentes que están desarrollando constantemente nuevos métodos para ocultar sus actividades.
Sin embargo, Incluso los mejores sistemas de monitoreo operacional producen una alta tasa de falsos positivos que deben ser eliminados por un revisor humano a través de un ejercicio de calibración que permita definir si se desactivan ciertas alertas, o si se incrementa la acidez del sistema de monitoreo para que nuevas alertas aparezcan. Los expertos en la materia luego prueban el modelo utilizando las calibraciones realizadas para ver cómo funciona. Con base en esos hallazgos, los humanos optimizan el modelo para que pueda realizar el primer nivel de revisión más rápido y con más precisión que sus homólogos. Los oficiales de cumplimiento deben estar involucrados en cada paso, lo que les permite explicar y justificar la tecnología a los entes reguladores y que su modelo no se convierta en una caja negra. Los seres humanos siguen siendo una parte integral del proceso, de construcción y puesta en funcionamiento de cualquier sistema de IA.
Los modelos o robots soportados en IA pueden realizar la función de un revisor de nivel 1. Luego el humano experto verifica las decisiones del modelo y una vez que el modelo demuestre que genera las alertas con una precisión aceptable, el experto las revisará todas para su correcta gestión.
Ya los sistemas de IA son capaces de realizar análisis de enlaces, hacer inferencias, identificar entidades que son parte de transacciones sospechosas. Los sistemas de IA también recopilan y analizan datos de fuentes públicas, incluso de sitios de redes sociales, para ayudar a establecer calificaciones de riesgo para nuestras contrapartes. Todo esto a una velocidad inimaginable para un humano. Pero ningún sistema de IA reemplaza el experto encargado de su construcción, mantenimiento e interpretación.
Vemos esto como una verdadera asociación. Las máquinas y los seres humanos deben colaborar para lograr cosas que ninguno podría hacer tan bien por su cuenta.