Автоматизированное принятие решений (ADM) быстро становится важной частью современного общества. Будь то бизнес, государственное управление, право или здравоохранение, образование и транспорт, ADM использует данные, машины и алгоритмы для принятия решений в различных ситуациях. С развитием различных технологий, таких как искусственный интеллект и машинное обучение, влияние этих систем растет с каждым днем, но стоящие за ними технические и этические проблемы также вызвали широкие дискуссии.
По мере развития технологий автоматизированное принятие решений определяется по-разному. Некоторые определения рассматривают ADM как решения, принимаемые вообще без вмешательства человека; другие приложения могут включать выбор, сделанный людьми, принимающими решения, с помощью систем поддержки;
Технологии и приложения ADM представлены во многих формах: от систем поддержки принятия решений до полностью автоматизированных процессов принятия решений.
Например, от простых моделей, основанных на деревьях решений, до сложных систем, использующих глубокие нейронные сети, разнообразие этих технологий позволяет ADM охватывать самые разные области: от развлечений до наблюдения.
Основой автоматизированного принятия решений являются данные. По сути, системы ADM используют различные типы и источники данных для анализа и обучения. Эти данные могут поступать из социальных сетей, датчиков, медицинских записей и т. д., что делает обработку крупномасштабных данных необходимой для принятия решений.
Качество данных имеет решающее значение для эффективности результатов, однако многие наборы данных страдают от предвзятости, пропусков и несоответствий.
Низкое качество данных может привести к предвзятому принятию решений, что является одной из проблем, с которыми сталкиваются многие современные системы ADM.
Работа системы ADM основана на множестве автоматизированных технологий принятия решений. Эти технологические разработки, от базового сопоставления данных до сложной прогнозной аналитики, расширяют границы автоматизации.
Машинное обучение предполагает обучение компьютерных программ на больших наборах данных, что позволяет алгоритмам постоянно совершенствовать процессы принятия решений.
По мере развития технологий графических процессоров и облачных вычислений, а также быстрого развития глубокого обучения область применения машинного обучения также быстро расширяется: от распознавания изображений до обработки языка.
Автоматизированные системы принятия решений широко применяются в государственном и частном секторах по причинам, в том числе из-за желания улучшить согласованность, повысить эффективность, снизить затраты и решить сложные проблемы.
Например, инструменты оценки риска используются для дополнения или замены решений судей и сотрудников правоохранительных органов. В США такие инструменты используются для определения риска повторения преступления.
В коммерческом мире при непрерывном аудите используются передовые аналитические инструменты для автоматизации процесса аудита, тогда как на финансовых рынках нормой стали автоматизированные торговые системы, которые генерируют и отправляют торговые приказы на основе заданных правил.
Однако с широким применением ADM также возникают соответствующие технические, юридические, этические и социальные проблемы. Например, автоматизированные системы рекомендаций для цифровых медиа-платформ вызывают обеспокоенность по поводу конфиденциальности пользователей и прозрачности использования данных.
В этом контексте насущной проблемой, которую необходимо решить, стало обеспечение того, чтобы автоматизированное принятие решений было честным, справедливым и прозрачным.
Поскольку алгоритмы представляют собой «черный ящик», все больше и больше людей начинают ожидать «права на объяснение», чтобы понять автоматизированный процесс принятия решений.
Тенденция развития автоматизированных систем принятия решений будет продолжать углубляться. Поскольку управление, политика и технологии продолжают развиваться, то, как сбалансировать инновации и риски, станет серьезной проблемой, стоящей перед человеческим обществом.
Как в мире, управляемом данными, мы можем гарантировать, что автоматизированное принятие решений будет не только эффективным, но также справедливым и этичным?