A tomada de decisão automatizada (ADM) está rapidamente se tornando uma parte importante da sociedade atual. Seja nos negócios, na administração pública, no direito ou na saúde, na educação e nos transportes, a ADM utiliza dados, máquinas e algoritmos para tomar decisões em diferentes situações. Com o avanço de diversas tecnologias, como a inteligência artificial e o aprendizado de máquina, a influência desses sistemas cresce a cada dia, mas as questões técnicas e éticas por trás deles também têm desencadeado discussões generalizadas.
À medida que a tecnologia evolui, a tomada de decisão automatizada é definida de forma diferente. Algumas definições consideram que a ADM são decisões tomadas sem qualquer intervenção humana; outras aplicações podem envolver escolhas feitas por decisores humanos com a ajuda de sistemas de apoio;
As tecnologias e aplicações ADM vêm em muitas formas, desde sistemas de apoio à decisão até processos de tomada de decisão totalmente automatizados.
Por exemplo, desde modelos simples baseados em árvores de decisão até sistemas complexos que utilizam redes neurais profundas, a diversidade dessas tecnologias permite que a ADM cubra áreas que vão do entretenimento à vigilância.
O núcleo da tomada de decisão automatizada são os dados. Essencialmente, os sistemas ADM utilizam diferentes tipos e fontes de dados para analisar e aprender. Esses dados podem vir de mídias sociais, sensores, registros médicos, etc., tornando necessário o processamento de dados em grande escala para a tomada de decisões.
A qualidade dos dados é fundamental para o impacto dos resultados, mas muitos conjuntos de dados sofrem de preconceitos, faltas e inconsistências.
A má qualidade dos dados pode levar a tomadas de decisão tendenciosas, que é um dos desafios enfrentados por muitos sistemas ADM atuais.
A operação do sistema ADM depende de uma variedade de tecnologias automatizadas de tomada de decisão. Da correspondência básica de dados à análise preditiva sofisticada, esses desenvolvimentos tecnológicos estão ampliando os limites da automação.
O aprendizado de máquina envolve o treinamento de programas de computador em grandes conjuntos de dados, o que permite que os algoritmos melhorem continuamente seus processos de tomada de decisão.
Com a maturidade da GPU e da tecnologia de computação em nuvem e o rápido desenvolvimento do aprendizado profundo, o escopo de aplicação do aprendizado de máquina também está se expandindo rapidamente, desde o reconhecimento de imagens até o processamento de linguagem.
Os sistemas automatizados de tomada de decisão estão a ser amplamente adoptados nos sectores público e privado por razões que incluem o desejo de melhorar a consistência, melhorar a eficiência, reduzir custos e resolver problemas complexos.
Por exemplo, ferramentas de avaliação de risco são utilizadas para complementar ou substituir o julgamento de juízes e agentes responsáveis pela aplicação da lei. Nos Estados Unidos, essas ferramentas são utilizadas para determinar o risco de reincidência do crime.
No mundo comercial, a auditoria contínua utiliza ferramentas analíticas avançadas para automatizar o processo de auditoria, enquanto nos mercados financeiros, sistemas de negociação automatizados que geram e enviam ordens de negociação com base em regras predefinidas tornaram-se a norma.
No entanto, com a aplicação generalizada da ADM, também surgem questões técnicas, legais, éticas e sociais correspondentes. Por exemplo, os sistemas automatizados de recomendação para plataformas de meios digitais levantam preocupações sobre a privacidade dos utilizadores e a transparência na utilização de dados.
Neste contexto, como garantir que a tomada de decisões automatizada seja justa, justa e transparente tornou-se um problema urgente a ser resolvido.
Com a natureza de “caixa preta” dos algoritmos, cada vez mais pessoas começam a esperar o “direito de explicação” para compreender o processo automatizado de tomada de decisão.
A tendência de desenvolvimento de sistemas automatizados de tomada de decisão continuará a aprofundar-se À medida que a governação, a política e a tecnologia continuam a evoluir, como equilibrar a inovação e o risco será um grande desafio que a sociedade humana enfrenta.
Num mundo orientado por dados, como podemos garantir que a tomada de decisões automatizada não seja apenas eficiente, mas também justa e ética?