Automatisierte Entscheidungsfindung (ADM) wird schnell zu einem wichtigen Bestandteil der heutigen Gesellschaft. Ob in der Wirtschaft, der öffentlichen Verwaltung, dem Recht oder im Gesundheitswesen, im Bildungswesen und im Transportwesen – ADM nutzt Daten, Maschinen und Algorithmen, um in verschiedenen Situationen Entscheidungen zu treffen. Mit der Weiterentwicklung verschiedener Technologien wie künstlicher Intelligenz und maschinellem Lernen wächst der Einfluss dieser Systeme von Tag zu Tag, aber die technischen und ethischen Fragen, die ihnen zugrunde liegen, haben auch breite Diskussionen ausgelöst.
Da sich die Technologie weiterentwickelt, wird die automatisierte Entscheidungsfindung anders definiert. Einige Definitionen betrachten ADM als Entscheidungen, die ohne jegliches menschliches Eingreifen getroffen werden; bei anderen Anwendungen kann es sich um Entscheidungen handeln, die von menschlichen Entscheidungsträgern mithilfe von Unterstützungssystemen getroffen werden.
ADM-Technologien und -Anwendungen gibt es in vielen Formen, von Entscheidungsunterstützungssystemen bis hin zu vollständig automatisierten Entscheidungsprozessen.
Die Vielfalt dieser Technologien ermöglicht es ADM beispielsweise, von einfachen Modellen, die auf Entscheidungsbäumen basieren, bis hin zu komplexen Systemen, die tiefe neuronale Netze nutzen, Bereiche abzudecken, die von Unterhaltung bis Überwachung reichen.
Der Kern der automatisierten Entscheidungsfindung sind Daten. Im Wesentlichen nutzen ADM-Systeme verschiedene Arten und Quellen von Daten zum Analysieren und Lernen. Diese Daten können aus sozialen Medien, Sensoren, Krankenakten usw. stammen, sodass für die Entscheidungsfindung die Verarbeitung umfangreicher Daten erforderlich ist.
Die Qualität der Daten ist entscheidend für die Auswirkung der Ergebnisse, dennoch leiden viele Datensätze unter Verzerrungen, fehlenden Informationen und Inkonsistenzen.
Eine schlechte Datenqualität kann zu voreingenommenen Entscheidungen führen, was eine der Herausforderungen darstellt, mit denen viele aktuelle ADM-Systeme konfrontiert sind.
Der Betrieb des ADM-Systems basiert auf einer Vielzahl automatisierter Entscheidungstechnologien. Vom einfachen Datenabgleich bis hin zu anspruchsvollen prädiktiven Analysen verschieben diese technologischen Entwicklungen die Grenzen der Automatisierung.
Beim maschinellen Lernen werden Computerprogramme anhand großer Datenmengen trainiert, wodurch die Algorithmen ihre Entscheidungsprozesse kontinuierlich verbessern können.
Mit der Reife der GPU- und Cloud-Computing-Technologie und der rasanten Entwicklung des Deep Learning erweitert sich auch der Anwendungsbereich des maschinellen Lernens rasch und reicht von der Bilderkennung bis zur Sprachverarbeitung.
Automatisierte Entscheidungssysteme werden im öffentlichen und privaten Sektor häufig eingesetzt, unter anderem aus dem Wunsch heraus, die Konsistenz zu verbessern, die Effizienz zu verbessern, Kosten zu senken und komplexe Probleme zu lösen.
Zum Beispiel werden Risikobewertungsinstrumente verwendet, um das Urteil von Richtern und Strafverfolgungsbeamten zu ergänzen oder zu ersetzen. In den Vereinigten Staaten werden solche Instrumente verwendet, um das Risiko eines erneuten Auftretens von Straftaten zu bestimmen.
In der Geschäftswelt nutzt die kontinuierliche Prüfung fortschrittliche Analysetools, um den Prüfungsprozess zu automatisieren, während auf den Finanzmärkten automatisierte Handelssysteme zur Norm geworden sind, die Handelsaufträge auf der Grundlage voreingestellter Regeln generieren und übermitteln.
Mit der breiten Anwendung von ADM ergeben sich jedoch auch entsprechende technische, rechtliche, ethische und soziale Fragen. Beispielsweise werfen automatisierte Empfehlungssysteme für digitale Medienplattformen Bedenken hinsichtlich der Privatsphäre der Nutzer und der Transparenz bei der Datennutzung auf.
In diesem Zusammenhang ist die Frage, wie sichergestellt werden kann, dass die automatisierte Entscheidungsfindung fair, gerecht und transparent ist, zu einem dringend zu lösenden Problem geworden.
Aufgrund des „Black-Box“-Charakters von Algorithmen beginnen immer mehr Menschen, das „Recht auf Erklärung“ zu erwarten, um den automatisierten Entscheidungsprozess zu verstehen.
Der Entwicklungstrend automatisierter Entscheidungssysteme wird sich weiter verstärken. Da sich Governance, Politik und Technologie weiterentwickeln, wird es eine große Herausforderung für die menschliche Gesellschaft sein, Innovation und Risiko in Einklang zu bringen.
Wie können wir in einer datengesteuerten Welt sicherstellen, dass die automatisierte Entscheidungsfindung nicht nur effizient, sondern auch fair und ethisch ist?