Página /
Las recomendaciones del World Economic Forum
Este capítulo está basado en las pautas recopiladas en el white paper: Guidelines for AI Procurement, publicado por el World Economic Forum en Septiembre 2019.
Este documento está diseñado como una herramienta para guiar a todas las partes involucradas en el ciclo de vida de adquisiciones: funcionarios encargados de diseñar políticas públicas, de gestionar adquisiciones, científicos de datos, proveedores de tecnología y sus líderes, con el objetivo general de salvaguardar el beneficio público y bienestar general.
¿Por qué necesitamos pautas para la contratación pública de IA?
Los gobiernos buscan cada vez más aprovechar las oportunidades que ofrece AI para mejorar la productividad del sector público, la provisión de servicios al público, y para estimular la economía.
La IA tiene el potencial de mejorar enormemente las operaciones del gobierno y satisfacer las necesidades de los ciudadanos de nuevas maneras, que van desde la gestión del tráfico hasta la entrega de atención médica y el procesamiento de formularios de impuestos.
Sin embargo, los gobiernos a menudo carecen de experiencia en la adquisición de soluciones modernas de inteligencia artificial y muchas instituciones públicas son cautelosas al aprovechar esta poderosa tecnología. Las pautas para la contratación pública pueden ayudar de varias maneras.
Anticipar los beneficios y riesgos
La IA ha avanzado rápidamente en los últimos años, estimulando más investigación y aplicaciones. Nuevos usos de la IA que son de interés para los gobiernos continuarán surgiendo y traerán consigo beneficios y riesgos.
Es importante que los gobiernos se preparan para este futuro ahora invirtiendo en la construcción prácticas responsables de cómo procuran la IA. Las normas de contratación pública y las políticas de compras a menudo tienen una fuerte influencia en los mercados, particularmente en sus primeras etapas de desarrollo.
A medida que la industria debate la definición de sus propios estándares sobre estas tecnologías, la autoridad moral y la credibilidad de los gobiernos pueden ayudar a establecer una línea de base para estas discusiones.
¿Cómo usar las pautas?
Las pautas proporcionan consideraciones fundamentales que un gobierno debe abordar antes de adquirir e implementar soluciones y servicios de IA.
Se deben aplicar una vez se ha determinado que la solución necesaria para un problema podría estar impulsado por la IA.
Las pautas no pretenden resolver todos los desafíos del sector público en los procesos de adopción de IA, pero al influir en cómo las nuevas soluciones de IA se obtienen, pueden establecer buenas prácticas de uso en los gobiernos y un mejor camino de adopción de la IA en la sociedad.
¿Cómo usar las pautas?
Las pautas consisten en 10 recomendaciones de alto nivel, ordenadas de manera aproximadamente secuencial en términos de su relevancia para el proceso acumulativo de adquisición.
Cada recomendación contiene:
- múltiples principios relacionados con cada directriz
- textos explicativos sobre el pensamiento subyacente a cada principio
Pauta Nº1
Utilizar procesos de adquisición que en lugar de centrarse en prescribir una solución específica, se enfoquen en definir los problemas y oportunidades, dejando espacio para la iteración
Principios
- Hacer uso de procesos de contratación innovadores para adquirir sistemas de IA.
- Concentrar los esfuerzos en desarrollar una declaración clara del problema, en lugar de detallar especificaciones de una solución.
- Apoyar el proceso en un enfoque iterativo para el desarrollo de productos.
Pauta Nº2
Definir el beneficio público de usar IA al mismo tiempo que se evalúan los riesgos
Principios
- Explicar claramente en su RFP por qué considera que la IA es relevante para el problema y estar abierto a soluciones técnicas alternativas.
- Explicar que el beneficio público es el principal impulsor de su proceso de toma de decisiones al evaluar las propuestas.
- Realizar una evaluación inicial de riesgo e impacto de IA antes de comenzar el proceso de adquisición e incluir los hallazgos provisionales en la RFP y utilizar la evaluación en puntos de decisión clave
Pauta Nº3
Alinear la adquisición con estrategias gubernamentales relevantes y existentes para contribuir a su mejora
Principios
- Consultar iniciativas gubernamentales relevantes como estrategias nacionales de IA, innovación y / o estrategias industriales, y documentos de orientación que informan a las políticas públicas sobre tecnologías emergentes.
- Colaborar con otros organismos e instituciones gubernamentales relevantes para compartir ideas y aprender unos de otros.
Pauta Nº4
Incorporar legislación potencialmente relevante y códigos de prácticas en su RFP
Principios
- Realizar una revisión de la legislación pertinente, los derechos, las normas administrativas y otros normas relevantes que rigen los tipos de datos y tipos de aplicaciones en el alcance del proyecto y hacer referencia a ellos en la RFP.
- Tener en cuenta la confidencialidad adecuada, la protección del secreto comercial, y las mejores prácticas de privacidad de datos que pueden ser relevantes para la implementación de sistemas de IA.
Pauta Nº5
Articular la viabilidad técnica y administrativa de acceso a datos relevantes
Principios
- Asegurarse de contar con mecanismos adecuados de gobierno de datos desde el comienzo de el proceso de adquisición.
- Evaluar si los datos relevantes estarán disponibles para el proyecto.
- Definir si se compartirán los datos con los proveedores para la iniciativa de adquisición y cómo lo hará posteriormente durante el proyecto.
Pauta Nº6
Destacar las limitaciones de loss aspectos técnicos y éticos de los usos previstos de los datos para evitar problemas como el sesgo de datos históricos.
Principios
- Considerar la susceptibilidad de los datos que podrían estar dentro del alcance y si el uso de los datos es justo.
- Destaque las limitaciones conocidas (por ejemplo, la calidad) de los datos en la solicitud de propuesta y requerir a los proponentes sus estrategias sobre cómo abordar estas deficiencias. Tener un plan para abordar las limitaciones relevantes que pueden haber pasado por alto.
Pauta Nº7
Trabaja con un equipo diverso y multidisciplinario
Principios
- Desarrollar ideas y tomar decisiones durante todo el proceso de adquisición con un equipo multidisciplinar.
- Solicitar a los proponentes que formen un equipo diverso con las habilidades adecuadas
Pauta Nº8
Enfocarse en todo el proceso de adquisición en mecanismos de responsabilidad algorítmica y de normas de transparencia
Principios
- Promover una cultura de rendición de cuentas a través de soluciones basadas en IA
- Garantizar que la toma de decisiones de IA sea tan transparente como sea posible.
- Explorar mecanismos para permitir la interpretación de los algoritmos internamente y externamente como un medio de establecer responsabilidad y contestabilidad.
Pauta Nº9
Implementar un proceso para la continuación de los compromisos del proveedor de IA con la entidad adquirente para la transferencia de conocimiento y evaluación de riesgos a largo plazo
Principios
- Considerar durante el proceso de adquisición que adquirir una herramienta que incluya IA no es una decisión de una sola vez; probar la aplicación durante su vida útil es crucial.
- Pedir al proveedor de IA que se asegure de que la transferencia de conocimiento y la capacitación sean parte del compromiso.
- Solicitar al proveedor de inteligencia artificial información sobre cómo administrar el uso apropiado de la aplicación por no especialistas.
Pauta Nº10
Crear las condiciones para un campo de juego equitativo y justo entre los proveedores de soluciones de IA.
Principios
- Comunicarse de diversas maneras con una amplia variedad de proveedores de soluciones de inteligencia artificial.
- Involucrar a los proveedores temprano y con frecuencia durante el proceso
- Asegurar la interoperabilidad de las soluciones de IA y demandar términos de licencia abiertos para evitar dependencia de un proveedor.