Quy trình ra quyết định tự động (ADM) đang nhanh chóng trở thành một phần quan trọng của xã hội ngày nay. Dù trong lĩnh vực kinh doanh, hành chính công, luật hay chăm sóc sức khỏe, giáo dục và giao thông vận tải, ADM đều sử dụng dữ liệu, máy móc và thuật toán để đưa ra quyết định trong các tình huống khác nhau. Với sự tiến bộ của nhiều công nghệ khác nhau, chẳng hạn như trí tuệ nhân tạo và học máy, tầm ảnh hưởng của các hệ thống này ngày càng tăng lên, nhưng các vấn đề kỹ thuật và đạo đức đằng sau chúng cũng đã gây ra các cuộc thảo luận rộng rãi.
Khi công nghệ phát triển, việc ra quyết định tự động được định nghĩa khác nhau. Một số định nghĩa coi ADM là các quyết định được đưa ra mà không có sự can thiệp của con người; các ứng dụng khác có thể liên quan đến các lựa chọn do con người đưa ra với sự trợ giúp của các hệ thống hỗ trợ.
Các công nghệ và ứng dụng của ADM có nhiều dạng, từ hệ thống hỗ trợ quyết định đến quy trình ra quyết định hoàn toàn tự động.
Ví dụ: từ các mô hình đơn giản dựa trên cây quyết định đến các hệ thống phức tạp sử dụng mạng lưới thần kinh sâu, tính đa dạng của các công nghệ này cho phép ADM bao trùm các lĩnh vực từ giải trí đến giám sát.
Cốt lõi của việc ra quyết định tự động là dữ liệu. Về cơ bản, hệ thống ADM sử dụng các loại và nguồn dữ liệu khác nhau để phân tích và tìm hiểu. Dữ liệu này có thể đến từ phương tiện truyền thông xã hội, cảm biến, hồ sơ y tế, v.v., khiến việc xử lý dữ liệu quy mô lớn trở nên cần thiết để đưa ra quyết định.
Chất lượng dữ liệu rất quan trọng đối với tác động của kết quả, tuy nhiên nhiều tập dữ liệu vẫn có sai lệch, thiếu sót và không nhất quán.
Chất lượng dữ liệu kém có thể dẫn đến việc ra quyết định sai lệch, đây là một trong những thách thức mà nhiều hệ thống ADM hiện tại phải đối mặt.
Hoạt động của hệ thống ADM dựa trên nhiều công nghệ ra quyết định tự động. Từ kết hợp dữ liệu cơ bản đến phân tích dự đoán phức tạp, những phát triển công nghệ này đang vượt qua ranh giới của tự động hóa.
Học máy bao gồm việc đào tạo các chương trình máy tính trên các tập dữ liệu lớn, cho phép các thuật toán liên tục cải thiện quy trình ra quyết định.
Với sự trưởng thành của GPU và công nghệ điện toán đám mây cũng như sự phát triển nhanh chóng của deep learning, phạm vi ứng dụng của machine learning cũng nhanh chóng mở rộng, từ nhận dạng hình ảnh đến xử lý ngôn ngữ.
Hệ thống ra quyết định tự động đang được áp dụng rộng rãi trong khu vực công và tư nhân vì những lý do bao gồm mong muốn cải thiện tính nhất quán, nâng cao hiệu quả, giảm chi phí và giải quyết các vấn đề phức tạp.
Ví dụ: các công cụ đánh giá rủi ro được sử dụng để bổ sung hoặc thay thế phán quyết của thẩm phán và nhân viên thực thi pháp luật. Tại Hoa Kỳ, những công cụ đó được sử dụng để xác định nguy cơ tái phạm tội phạm.
Trong thế giới thương mại, kiểm toán liên tục sử dụng các công cụ phân tích tiên tiến để tự động hóa quy trình kiểm toán, trong khi ở thị trường tài chính, hệ thống giao dịch tự động tạo và gửi lệnh giao dịch dựa trên các quy tắc đặt trước đã trở thành tiêu chuẩn.
Tuy nhiên, với việc áp dụng rộng rãi ADM, các vấn đề kỹ thuật, pháp lý, đạo đức và xã hội tương ứng cũng nảy sinh. Ví dụ: hệ thống đề xuất tự động cho nền tảng phương tiện kỹ thuật số làm tăng mối lo ngại về quyền riêng tư và tính minh bạch của người dùng trong việc sử dụng dữ liệu.
Trong bối cảnh này, làm thế nào để đảm bảo quá trình ra quyết định tự động diễn ra công bằng, chính đáng và minh bạch đã trở thành một vấn đề cấp bách cần giải quyết.
Với tính chất "hộp đen" của thuật toán, ngày càng nhiều người bắt đầu mong đợi "quyền giải thích" để hiểu được quy trình ra quyết định tự động.
Xu hướng phát triển của hệ thống ra quyết định tự động sẽ tiếp tục phát triển sâu rộng. Khi quản trị, chính sách và công nghệ tiếp tục phát triển, làm thế nào để cân bằng giữa đổi mới và rủi ro sẽ là một thách thức lớn mà xã hội loài người phải đối mặt.
Trong thế giới dựa trên dữ liệu, làm cách nào chúng ta có thể đảm bảo rằng việc ra quyết định tự động không chỉ hiệu quả mà còn công bằng và có đạo đức?