Página /
Evaluar si una solución ADMS es la adecuada para las necesidades de sus usuarios
Los sistemas ADMS son solo otra herramienta para ayudar a brindar servicios. El diseño de cualquier servicio comienza con la identificación de las necesidades del usuario. Si cree que una solución ADMS puede ser el tipo de herramienta adecuada para ayudar, deberá considerar sus datos y la tecnología específica que desea utilizar.
Considerar el contexto y los conjuntos de datos
Al evaluar si la IA podría ayudarlo a satisfacer las necesidades de los usuarios, considere si:
- hay datos que contienen la información que necesita; si es ético y seguro usar los datos;
- tiene una gran cantidad de datos para que el modelo aprenda;
- la tarea es a gran escala y lo suficientemente repetitiva como para que un humano tenga dificultades para llevarla a cabo;
- podría proporcionar información que un equipo podría usar para lograr resultados en el mundo real.
Los límites de las soluciones ADMS
Es importante recordar que un sistema ADMS no es una solución universal. A diferencia de un humano, estos sistemas no pueden inferir, y solo puede producir una salida basada en los datos que un equipo ingresa al modelo.
Normalmente, para que una solución ADMS funcione, necesita acceso a una gran cantidad de datos. Trabaje con especialistas que tengan conocimiento de sus datos (data scientists), para evaluar su estado.
La calidad de los datos
Puede evaluar si sus datos son de calidad suficientemente usando una combinación de variables como:
- exactitud
- integridad
- unicidad
- precisión
- validez
- suficiencia
- pertinencia
- representatividad
- consistencia
Si su reto implica respaldar un proceso de decisión en curso, deberá planear establecer un acceso continuo y actualizado a los datos.
Garantizar que el uso de la solución ADMS cumpla con las leyes de protección de datos
Deberá asegurarse de que su sistema cumpla con el Artículo 22 del Reglamento General de Protección de Datos (GDPR), incluidos los puntos relacionados con la toma de decisiones automatizada. Recomendamos discutir esto con asesores legales.
Las decisiones automatizadas en este contexto son decisiones tomadas sin intervención humana, que tienen efectos legales o similares en los data subjects. Por ejemplo, una decisión de otorgar un préstamo o una prueba de aptitud de reclutamiento que utiliza algoritmos preprogramados.
Fuente: Guía de IA por GOV.UK
Consideraciones legales
Si desea utilizar procesos automatizados para tomar decisiones con efectos legales o similares en las personas, debe seguir las garantías establecidas en el GDPR.
Esto incluye asegurarse de proporcionar a los usuarios:
- Información específica y de fácil acceso sobre el proceso automatizado de toma de decisiones.
- Una manera simple de obtener intervención humana para revisar y potencialmente cambiar la decisión.
Recuerde asegurarse de que su uso de la toma de decisiones automatizada no entre en conflicto con otras leyes o regulaciones.
Debe considerar tanto la decisión final como cualquier decisión automatizada que haya afectado significativamente el proceso de toma de decisiones.
No existe una única tecnología ADMS
Actualmente, las soluciones ADMS ampliamente disponibles se pueden agrupar principalmente en soluciones de aprendizaje automático (Machine Learning) de tipo:
- supervisado
- no supervisado
- de refuerzo
Las técnicas de aprendizaje automático que pueden proporcionarle la mejor información dependen del problema que está tratando de resolver. A continuación exploraremos cinco técnicas de aprendizaje automático publicadas por GOV.UK en esta guía de uso de IA en el sector público.
Técnica: Clasificación
Aprende las características de una categoría dada, permitiendo que el modelo clasifique puntos de datos desconocidos en categorías existentes.
Ejemplos de uso:
- decidir si un envío de mercancías se somete a una inspección fronteriza
- decidir si un correo electrónico es spam o no
Técnica: Regresión
Predice un valor para un punto de datos desconocido.
Ejemplos de uso:
- predicción del valor de mercado de una casa a partir de información como su tamaño, ubicación o edad
- pronosticar las concentraciones de contaminantes atmosféricos en las ciudades
Técnica: Clustering
Identifica grupos de puntos de datos similares en un conjunto de datos.
Ejemplos de uso:
- agrupación de clientes minoristas para encontrar subgrupos con hábitos de gasto específicos
- agrupación de datos de medidores inteligentes para identificar grupos de electrodomésticos y generar facturas de electricidad detalladas
Técnica: Reducción de dimensionalidad o aprendizaje múltiple
Limita los datos a las variables más relevantes para hacer que los modelos sean más precisos, o hacer posible visualizar los datos.
Ejemplo de uso:
- utilizado por los científicos de datos al evaluar y desarrollar otros tipos de algoritmos de aprendizaje automático
Técnica: Ranking
Entrena un modelo para clasificar nuevos datos en base a listas vistas anteriormente.
Ejemplo de uso:
- mostrar páginas por orden de relevancia cuando un usuario busca en un sitio web
Aplicaciones comunes del aprendizaje automático
Hay ciertos tipos de problemas para los que se usa comúnmente el aprendizaje automático. Para algunos de estos, podrá comprar o adaptar productos disponibles comercialmente.
Aplicaciones comunes:
- procesamiento de lenguaje natural (PNL)
- visión por computadora
- detección de anomalías
- análisis de series de tiempo
- sistemas de recomendación
Aplicación: Procesamiento de lenguaje natural (PNL)
Procesa y analiza el lenguaje natural, reconociendo palabras, su significado, contexto y la narrativa.
Ejemplos de uso:
- convertir voz en texto para la generación automática de subtítulos
- generar automáticamente una respuesta al correo electrónico de un cliente
Aplicación: Visión por computadora
La capacidad de una máquina o programa para emular la visión humana.
Ejemplos de uso:
- identificación de señales de tráfico para vehículos autónomos
- reconocimiento facial para controles automáticos de pasaportes
Aplicación: Detección de anomalías
Encuentra puntos de datos anómalos dentro de un conjunto de datos.
Ejemplo de uso:
- identificar actividades fraudulentas en la cuenta bancaria de un usuario
Aplicación: Análisis de series de tiempo
Comprender cómo varían los datos a lo largo del tiempo para realizar pronósticos y monitoreo.
Ejemplos de uso:
- realizar análisis de presupuesto
- predicción de indicadores económicos
Aplicación: Sistemas de recomendación
Predice cómo un usuario calificará un elemento determinado para hacer nuevas recomendaciones.
Ejemplo de uso
- sugerir páginas relevantes en un sitio web, dados los artículos que un usuario ha visto anteriormente
Decidir si diseñar o comprar
Al evaluar si la solución ADMS podría ayudarlo a satisfacer las necesidades de los usuarios, considere cómo adquirirá la tecnología. Debe definir su estrategia de compra de la misma manera que lo haría con cualquier otra tecnología. Si diseña, compra o reutiliza (o combina estos enfoques) dependerá de una serie de consideraciones, que incluyen:
- Si las necesidades que está tratando de satisfacer son exclusivas de su organización o si puede satisfacer las necesidades de los usuarios con componentes genéricos
- La madurez de los productos disponibles comercialmente que satisfacen esas necesidades.
- Cómo su producto necesita integrarse con su infraestructura existente
- También es importante abordar las preocupaciones éticas sobre el uso de datos y algoritmos desde el inicio del proceso de adquisición.
Diseñar una solución ADMS
Su equipo puede construir o adaptar modelos listos para usar o algoritmos de código abierto de forma interna.
Al tomar esta decisión, debe trabajar con científicos de datos para considerar si:
- su equipo tiene las habilidades para construir un proyecto de inteligencia artificial internamente
- su equipo de operaciones puede ejecutar y mantener una solución de inteligencia artificial interna
Comprar una solución ADMS
Es posible que pueda comprar una solución ADMS como un producto estándar.
Esto es más adecuado si está buscando una aplicación de uso común, por ejemplo, reconocimiento óptico de caracteres. Sin embargo, la compra de este tipo de soluciones estándar no siempre es adecuada, ya que los detalles de sus datos y necesidades podrían significar que el proveedor tendría que construir desde cero o personalizar significativamente un modelo existente.
Muy probablemente, su solución ADMS aún deberá integrarse en un servicio end-to-end existente para sus usuarios, incluso si puede comprar varios de los componentes importantes de la solución total.
Innovación responsable
Cuando se usan este tipo de soluciones, es importante entender quién es responsable si el sistema falla, ya que el problema puede estar en varias áreas.
Por ejemplo:
- fallos con los datos elegidos para entrenar el modelo
- el diseño del modelo
- la codificación del software
- la implementación
Registro de responsabilidad
Se recomienda establecer un registro de responsabilidad que establezca quién es responsable de las diferentes áreas del sistema.
Sería útil considerar si:
- Los modelos están logrando su propósito y objetivos comerciales.
- Existe un marco claro de responsabilidad para los modelos de producción.
- Existe un marco claro de pruebas y monitoreo.
- Su equipo ha revisado y validado el código.
- Los algoritmos son robustos, imparciales, justos y explicables.
- El proyecto se ajusta a cómo los ciudadanos y los usuarios esperan que se usen sus datos.
Dependiendo de la madurez de su organización, puede ser útil establecer una junta, comité o foro dedicado para manejar los datos y el modelo de gobernanza.
Registro de responsabilidad
Puede ser útil mantener un registro central de todas las soluciones ADMS implementadas, enumerando:
- donde la solución está en uso
- para qué se utiliza el sistema ADMS
- qué roles o equipos están involucrados
- cómo se evalúa o verifica
- qué otros equipos dependen del sistema