Página /
Cómo puede ayudar una solución ADMS
Este tipo de soluciones pueden beneficiar al sector público de varias maneras. Por ejemplo, pueden:
- Brindar información, pronósticos y predicciones más precisos que conduzcan a mejores resultados, por ejemplo, diagnósticos médicos más precisos
- Producir un impacto social positivo mediante el uso de inteligencia artificial para proporcionar soluciones a algunos de los problemas sociales más desafiantes del mundo
- Simular sistemas complejos para experimentar con diferentes opciones de políticas y detectar consecuencias no deseadas antes de comprometerse con una medida
- Mejorar los servicios públicos, por ejemplo, personalizar los servicios públicos para adaptarlos a las circunstancias individuales
- Automatizar tareas manuales simples que liberan al personal para hacer un trabajo más interesante.
Lo que las soluciones ADMS no pueden hacer
Los sistemas ADMS no son una solución de propósito general que pueda resolver todos los problemas.
Sus aplicaciones actuales se centran en realizar tareas definidas de forma limitada. Los sistemas ADMS generalmente no pueden:
- ser imaginativo
- funcionar bien sin una gran cantidad de datos relevantes y de alta calidad
- inferir contexto adicional si la información no está presente en los datos
No siempre los ADMS son la mejor solución
Incluso si la solución ADMS puede ayudar a satisfacer algunas necesidades de los usuarios, las soluciones más simples pueden ser más efectivas y menos costosas.
Por ejemplo, la tecnología de reconocimiento óptico de caracteres puede extraer información de escaneos de pasaportes.
Sin embargo, un formulario digital que requiera entrada manual puede ser más preciso, más rápido de construir y más barato. Deberá investigar a fondo soluciones tecnológicas avanzadas para verificar si este es el caso.
¿Cómo se están usando las soluciones ADMS?
Las administraciones públicas ya están utilizando sistemas automatizados de toma de decisiones para fines con un impacto social significativo, como el control fronterizo, la prevención del delito y la gestión del bienestar.
En esta sección puede obtener más información sobre casos de uso en países como:
- Estados Unidos
- Singapur
- Nueva Zelanda
- China
- Uruguay
Casos de uso: Estados Unidos
El uso de sistemas ADM en los Estados Unidos, especialmente en el estado de Nueva York, ha sido bien documentado por grupos de investigación y defensa como el AI Now Institute, que ha encontrado evidencia de ADMS en todos los niveles de gobierno.
Los ejemplos van desde ADMS en departamentos individuales como el Departamento de Bomberos de Nueva York, hasta el Departamento de Educación, cuyo algoritmo de asignación de escuela se utiliza para unir a estudiantes de octavo grado con escuelas secundarias en función de preferencias, puntajes de exámenes y otros criterios.
A nivel regional, el estado de Utah asigna viviendas y prioriza los servicios públicos utilizando un ADMS, mientras que el Departamento de Correcciones de Pensilvania usa la tecnología para optimizar la clasificación de seguridad para las viviendas de los reclusos.
Los ADMS son utilizados a nivel federal por el Departamento de Control de Aduanas de Inmigración para identificar y procesar nuevos objetivos de deportación y ayuda en los procedimientos de expulsión.
Caso de estudio: Singapur
Históricamente, el estado de la ciudad de Singapur siempre ha aprovechado los avances en las TIC para impulsar su administración pública y la prestación de servicios.
Desde 1966, cuando el recién fundado Ministerio de Defensa de Singapur introdujo un sistema computarizado de toma de decisiones para apoyar la asignación de militares nacionales, ADMS ha tomado un papel central en el impulso del gobierno por la productividad, la eficiencia y la gobernanza centrada en los ciudadanos.
Para mejorar la experiencia del cliente y proporcionar asistencia rápida y constante al público las 24 horas, Singapur combina chatbots impulsados por ADMS con computación conversacional en varias plataformas de servicios sociales orientados a los ciudadanos.
El objetivo es que los ciudadanos tengan una relación personal más personalizada con el servicio público a partir de conversaciones personales.
Al asociarse con firmas de govtech y otros consultores del sector privado, la iniciativa ha desarrollado algoritmos de aprendizaje automático para detectar anomalías en la presentación de reclamos e identificar aquellos que requieren más investigaciones. Los resultados se retroalimentan dinámicamente en los algoritmos para fortalecer las decisiones futuras.
Los pacientes que no se presentan a sus citas ambulatorias alargan las listas de espera, desperdician presupuestos y el tiempo de los profesionales de la salud, además de presionar más a los departamentos de A&E.
Varios hospitales públicos han probado con éxito un modelo predictivo de no presentación que utiliza análisis de datos para identificar a las personas con mayor riesgo de perder sus citas.
Con esta información, las interacciones de los pacientes se personalizan y se envía un texto recordatorio a aquellos pacientes con una alta tasa de ausencias, lo que resulta en una mejor atención al paciente y recursos hospitalarios optimizados.
En enero de 2019, Singapur se convirtió en la primera nación asiática en publicar un Marco de gobernanza modelo AI que proporciona pautas detalladas sobre principios y prácticas éticas en la implementación de la inteligencia artificial, incluida la gestión de relaciones con los clientes y la gestión de riesgos en la toma de decisiones autónoma.
El Ministro de Comunicaciones e Información explicó:
“Esperamos cocrear con las empresas en el desarrollo de nuevas soluciones de inteligencia artificial … Estamos buscando democratizar el acceso a los datos y las herramientas de inteligencia artificial, para que todos puedan aprender y experimentar con soluciones de inteligencia artificial. Queremos apoyar a las pequeñas y medianas empresas (PYME) para adoptar IA y trabajar con el gobierno en casos de uso relevantes “.
Casos de uso: Nueva Zelanda
En Nueva Zelanda, los oficiales de inmigración procesan más de 800,000 solicitudes de visa por año en todo el mundo.
Desde 2015, ADMS ha ayudado a los oficiales a clasificar las solicitudes de visa de manera más eficiente y, por lo tanto, invierten más tiempo en casos de mayor riesgo y detectan tendencias cambiantes en los riesgos que luego pueden retroalimentarse en los algoritmos.
Casos de uso: China
En la provincia oriental de Jiangsu, China, se utilizó una flota de robots de tres pies para revisar casos legales.
En siete gobiernos municipales y más de 30 autoridades de nivel inferior en toda la provincia, los robots detectaron problemas y corrigieron errores en casi 15,000 casos legales, incluyendo la conmutación de 541 condenas.
El piloto se consideró un éxito y hay planes para implementar la tecnología aún más, así como aumentar el alcance de los tipos de casos, principalmente de infracciones de tráfico a delitos más graves.
Casos de uso: Uruguay
Los últimos diez años han visto a Uruguay establecerse como un líder regional en la aplicación de soluciones TIC para la prestación de servicios públicos y la gobernanza.
En 2017, se publicó la Agenda Digital Uruguay 2020 con el objetivo de que “todos los ministerios con grandes volúmenes de datos deben desarrollar modelos para el análisis descriptivo y predictivo de los fenómenos que afectan a la comunidad”.
Como parte de esta visión, el Ministerio del Interior adquirió el software predictivo de vigilancia policial Predpol con el objetivo de anticipar dónde ocurrirían los delitos y así apoyar las decisiones sobre el despliegue de agentes de policía de manera más efectiva.
Sin embargo, el alto grado de opacidad del sistema y su potencial para reforzar la discriminación y la exclusión lo convirtieron en un caso problemático.
Los datos del Ministerio del Interior utilizados fueron información clasificada sobre delitos denunciados y los algoritmos empleados eran tecnología secreta de caja negra que hacía imposible cualquier forma de responsabilidad.
Además, los desarrolladores del software recomiendan usarlo como una herramienta para apoyar las decisiones de implementación mientras que en los cuadrantes de Montevideo identificados por Predpol estaban saturados con una presencia policial, que no solo se consideraba antagónica con los residentes locales, sino que también desplaza los crímenes o crea un autocontrol ciclo de perpetuación ya que es probable que se denuncien más delitos.
De 2015 a 2017, la mitad del distrito policial en la capital de Uruguay, Montevideo, usó Predpol y otras herramientas de policía predictiva, mientras que la otra mitad fue informada por estadísticas retrospectivas anuales.
La evaluación muestra que los distritos de Predpol no se desempeñaron mejor que los otros distritos y necesitaban más policías. Esto ejerció presión sobre los recursos humanos insuficientes de la fuerza, que fue precisamente uno de los desafíos que la implementación del software original tenía como objetivo abordar.
El ministerio desechó el sistema en menos de tres años, reemplazándolo por las herramientas estadísticas retrospectivas desarrolladas por sus propios equipos que habían demostrado ser más efectivas.
Nota: Casos presentados en el Reporte: ‘Where emerging tech meets government’ del DFS Think Tank (pg. 23-27)
Uso de ADMS en Europa
En Europa, una pequeña muestra de hallazgos del grupo de investigación y defensa Algorithm Watch muestra un patrón similar de ADMS que comienza a desplegarse en todos los niveles de gobierno.
En Francia, el procesamiento automatizado de infracciones de tránsito genera alrededor de mil millones de euros anuales para el gobierno francés, pero ANTAI, la Agencia Nacional para el Procesamiento Automatizado de Infracciones, ignora los requisitos legales para divulgar los algoritmos.
Las autoridades locales en Inglaterra han comenzado a usar ADMS para ayudar a determinar cuánto dinero se debe gastar en cada persona, dependiendo de sus necesidades individuales (conocido como presupuesto personal).
Alrededor de cuarenta ayuntamientos de toda Inglaterra utilizan actualmente el sistema, que ha asignado presupuestos personales por un valor total de más de 4 mil millones de euros.
A nivel local, el proyecto de videovigilancia inteligente de la ciudad alemana de Mannheim utiliza cámaras programadas con reconocimiento de patrones de movimiento para llamar a los socorristas ante un posible incidente.
Case de uso: Francia
El procesamiento automatizado de infracciones de tránsito comenzó en 2003 con el despliegue de unos 50 radares en toda Francia. Estos ahora suman aproximadamente 4.500 y registran más de 17 millones de delitos por año, y la tendencia está aumentando.
El ingreso bruto de estos radares es probablemente un poco más de € 1 mil millones por año, lo que lo convierte en uno de los procesos ADM más visibles que los ciudadanos franceses puedan encontrar.
En 2011, el Ministerio del Interior creó una nueva agencia gubernamental para gestionar radares y delitos de tráfico: la Agencia Nacional para el Procesamiento Automatizado de Infracciones (ANTAI).
Si quieres conocer más casos de implementación de ADMS en diferentes países Europeo descarga el reporte ‘Automating Society – Taking Stock of Automated Decision-Making in EU’ publicado por AlgorithmWatch. (disponible solo en inglés)
VeriPol: una herramienta para detectar denuncias falsas a la policía
Un equipo internacional de investigadores ha desarrollado la herramienta VeriPol que se utiliza para indicar la probabilidad de que una denuncia presentada a la policía sea falsa. Analiza automáticamente las llamadas mediante el procesamiento del lenguaje natural y las técnicas de aprendizaje automático.
La policía afirma que es exacto el 91% del tiempo. Esta tasa de éxito es un quince por ciento más alta que la de los oficiales de policía expertos (humanos). Los falsos negativos son 7.3% y los falsos positivos 9.7%.
“Esta herramienta ayudará a la policía a enfocar la investigación de manera más efectiva y a desalentar los informes falsos”, dice Federico Liberatore, investigador del Departamento de Estadística e Investigación de Operaciones de la Universidad Complutense de Madrid (UCM).
VeriPol fue desarrollado para robos violentos, intimidación y robo. En los últimos años ha habido un aumento en el número de informes inventados de este tipo de delitos. De dos conjuntos de quejas, verdadero en el caso uno y falso en el otro, VeriPol aprende automáticamente las características centrales de cada conjunto y entrena un modelo estadístico.
La aplicación ha sido probada en más de mil informes de 2015 proporcionados por la Policía Nacional de España. Es la primera vez que la Policía Nacional implementa un sistema como este.
El proyecto comenzó en 2014 como una colaboración entre la UCM, la Universidad Carlos III de Madrid, la Universidad de Roma “La Sapienza” y el Ministerio del Interior de España.