La toma de decisiones automatizada (ADM) se está convirtiendo rápidamente en una parte importante de la sociedad actual. Ya sea en los negocios, la administración pública, el derecho o la atención médica, la educación y el transporte, ADM utiliza datos, máquinas y algoritmos para tomar decisiones en diferentes situaciones. Con el avance de diversas tecnologías, como la inteligencia artificial y el aprendizaje automático, la influencia de estos sistemas crece día a día, pero las cuestiones técnicas y éticas detrás de ellos también han desencadenado debates generalizados.
A medida que la tecnología evoluciona, la toma de decisiones automatizada se define de manera diferente. Algunas definiciones consideran que la ADM son decisiones tomadas sin intervención humana alguna; otras aplicaciones pueden implicar decisiones tomadas por tomadores de decisiones humanos con la ayuda de sistemas de apoyo.
Las tecnologías y aplicaciones ADM se presentan en muchas formas, desde sistemas de soporte a decisiones hasta procesos de toma de decisiones totalmente automatizados.
Por ejemplo, desde modelos simples basados en árboles de decisión hasta sistemas complejos que utilizan redes neuronales profundas, la diversidad de estas tecnologías permite a ADM cubrir diversos campos, desde el entretenimiento hasta la vigilancia.
El núcleo de la toma de decisiones automatizada son los datos. Básicamente, los sistemas ADM utilizan diferentes tipos y fuentes de datos para analizar y aprender. Estos datos pueden provenir de redes sociales, sensores, registros médicos, etc., haciendo necesario el procesamiento de datos a gran escala para lograr la toma de decisiones.
La calidad de los datos es fundamental para el impacto en los resultados; sin embargo, muchos conjuntos de datos sufren de sesgos, faltas e inconsistencias.
La mala calidad de los datos puede llevar a una toma de decisiones sesgada, que es uno de los desafíos que enfrentan muchos sistemas ADM actuales.
El funcionamiento del sistema ADM se basa en una variedad de tecnologías automatizadas de toma de decisiones. Desde la comparación de datos básica hasta el análisis predictivo sofisticado, estos desarrollos tecnológicos están traspasando los límites de la automatización.
El aprendizaje automático implica entrenar programas informáticos en grandes conjuntos de datos, lo que permite a los algoritmos mejorar continuamente sus procesos de toma de decisiones.
Con la madurez de la GPU y la tecnología de computación en la nube y el rápido desarrollo del aprendizaje profundo, el alcance de la aplicación del aprendizaje automático también se está expandiendo rápidamente, desde el reconocimiento de imágenes hasta el procesamiento del lenguaje.
Los sistemas automatizados de toma de decisiones se están adoptando ampliamente en los sectores público y privado por razones que incluyen el deseo de mejorar la coherencia, mejorar la eficiencia, reducir costos y resolver problemas complejos.
Por ejemplo, las herramientas de evaluación de riesgos se utilizan para complementar o reemplazar el juicio de los jueces y agentes del orden. En los Estados Unidos, dichas herramientas se utilizan para determinar el riesgo de recurrencia del delito.
En el mundo comercial, la auditoría continua utiliza herramientas analíticas avanzadas para automatizar el proceso de auditoría, mientras que en los mercados financieros, los sistemas de comercio automatizados que generan y envían órdenes comerciales basadas en reglas preestablecidas se han convertido en la norma.
Sin embargo, con la aplicación generalizada de ADM, también surgen los correspondientes problemas técnicos, legales, éticos y sociales. Por ejemplo, los sistemas de recomendación automatizados para plataformas de medios digitales plantean preocupaciones sobre la privacidad de los usuarios y la transparencia en el uso de datos.
En este contexto, cómo garantizar que la toma de decisiones automatizada sea justa, equitativa y transparente se ha convertido en un problema urgente que debe resolverse.
Con las características de "caja negra" de los algoritmos, cada vez más personas comienzan a esperar el "derecho de explicación" para comprender el proceso automatizado de toma de decisiones.
La tendencia de desarrollo de sistemas automatizados de toma de decisiones seguirá profundizándose a medida que la gobernanza, las políticas y la tecnología sigan evolucionando, cómo equilibrar la innovación y el riesgo será un gran desafío al que se enfrentará la sociedad humana.
En un mundo basado en datos, ¿cómo podemos garantizar que la toma de decisiones automatizada no solo sea eficiente, sino también justa y ética?