La prise de décision automatisée (ADM) devient rapidement un élément important de la société actuelle. Que ce soit dans les domaines des affaires, de l'administration publique, du droit ou de la santé, de l'éducation et des transports, ADM utilise des données, des machines et des algorithmes pour prendre des décisions dans différentes situations. Avec les progrès de diverses technologies, telles que l’intelligence artificielle et l’apprentissage automatique, l’influence de ces systèmes augmente de jour en jour, mais les problèmes techniques et éthiques qui les sous-tendent ont également déclenché de larges discussions.
À mesure que la technologie évolue, la prise de décision automatisée est définie différemment. Certaines définitions considèrent l'ADM comme des décisions prises sans aucune intervention humaine ; d'autres applications peuvent impliquer des choix faits par des décideurs humains avec l'aide de systèmes de soutien.
Les technologies et applications ADM se présentent sous de nombreuses formes, allant des systèmes d'aide à la décision aux processus décisionnels entièrement automatisés.
Par exemple, depuis des modèles simples basés sur des arbres de décision jusqu'aux systèmes complexes utilisant des réseaux neuronaux profonds, la diversité de ces technologies permet à ADM de couvrir divers domaines allant du divertissement à la surveillance.
Les données sont au cœur de la prise de décision automatisée. Essentiellement, les systèmes ADM utilisent différents types et sources de données à analyser et à apprendre. Ces données peuvent provenir des réseaux sociaux, de capteurs, de dossiers médicaux, etc., rendant nécessaire le traitement de données à grande échelle pour prendre des décisions.
La qualité des données est essentielle à l'impact sur les résultats, mais de nombreux ensembles de données souffrent de biais, de manques et d'incohérences.
Une mauvaise qualité des données peut conduire à une prise de décision biaisée, ce qui constitue l'un des défis auxquels sont confrontés de nombreux systèmes ADM actuels.
Le fonctionnement du système ADM repose sur diverses technologies de prise de décision automatisée. De la mise en correspondance de données de base à l’analyse prédictive sophistiquée, ces développements technologiques repoussent les limites de l’automatisation.
Le machine learning implique la formation de programmes informatiques sur de grands ensembles de données, ce qui permet aux algorithmes d'améliorer continuellement leurs processus de prise de décision.
Avec la maturité de la technologie GPU et du cloud computing et le développement rapide du deep learning, le champ d'application du machine learning s'étend également rapidement, allant de la reconnaissance d'images au traitement du langage.
Les systèmes de prise de décision automatisés sont largement adoptés dans les secteurs public et privé pour des raisons telles que le désir d'améliorer la cohérence, d'améliorer l'efficacité, de réduire les coûts et de résoudre des problèmes complexes.
Par exemple, les outils d'évaluation des risques sont utilisés pour compléter ou remplacer le jugement des juges et des agents chargés de l'application des lois. Aux États-Unis, ces outils sont utilisés pour déterminer le risque de récidive de la criminalité.
Dans le monde commercial, l'audit continu utilise des outils analytiques avancés pour automatiser le processus d'audit, tandis que sur les marchés financiers, les systèmes de trading automatisés qui génèrent et soumettent des ordres de trading basés sur des règles prédéfinies sont devenus la norme.
Cependant, avec l'application généralisée de l'ADM, des problèmes techniques, juridiques, éthiques et sociaux correspondants se posent également. Par exemple, les systèmes de recommandation automatisés pour les plateformes de médias numériques suscitent des inquiétudes quant à la confidentialité des utilisateurs et à la transparence de l’utilisation des données.
Dans ce contexte, comment garantir que la prise de décision automatisée soit équitable, juste et transparente est devenu un problème urgent à résoudre.
Avec les caractéristiques de « boîte noire » des algorithmes, de plus en plus de personnes commencent à s'attendre à avoir le « droit d'explication » pour comprendre le processus de prise de décision automatisé.
La tendance au développement des systèmes de prise de décision automatisés continuera de s'approfondir. À mesure que la gouvernance, les politiques et la technologie continuent d'évoluer, la manière d'équilibrer l'innovation et le risque constituera un défi majeur auquel la société humaine sera confrontée.
Dans un monde axé sur les données, comment pouvons-nous garantir que la prise de décision automatisée est non seulement efficace, mais également équitable et éthique ?