Uber bị phạt gần 1 tỷ USD vì dùng AI tự động khóa tài khoản tài xế

Cơ quan bảo vệ dữ liệu Hà Lan vừa phạt Uber 825 triệu euro, tương đương gần 1 tỷ USD, với cáo buộc nền tảng này sử dụng thuật toán tự động để đình chỉ hoặc khóa tài khoản tài xế mà không có sự can thiệp đầy đủ của con người.

Cơ quan bảo vệ dữ liệu Hà Lan (AP) vừa ra quyết định phạt Uber 825 triệu euro, tương đương gần 1 tỷ USD, liên quan đến cách nền tảng này sử dụng hệ thống tự động để xử lý tài khoản tài xế.

Theo cơ quan quản lý, Uber đã vi phạm nghiêm trọng Quy định bảo vệ dữ liệu chung của Liên minh châu Âu (GDPR) khi để thuật toán tự động đưa ra các quyết định có ảnh hưởng trực tiếp đến tài xế.

AI tự động khóa tài khoản tài xế

Hệ thống của Uber bị phát hiện có khả năng tự động đình chỉ hoặc khóa vĩnh viễn tài khoản của những tài xế bị nghi ngờ gian lận hoặc có điểm đánh giá thấp.

Đáng chú ý, những quyết định này được đưa ra mà tài xế không nhận được cảnh báo đầy đủ hoặc không được đảm bảo quyền tiếp cận một quy trình đánh giá phù hợp từ con người.

Cơ quan bảo vệ dữ liệu Hà Lan cho rằng việc đình chỉ hoặc khóa tài khoản có thể ảnh hưởng trực tiếp đến thu nhập và sinh kế của tài xế. Vì vậy, những quyết định như vậy không nên được giao hoàn toàn cho hệ thống máy tính tự động.

Vụ việc đặt ra câu hỏi lớn về việc sử dụng AI và thuật toán trong các nền tảng kinh tế số, đặc biệt khi quyết định của hệ thống có thể tác động trực tiếp đến quyền lợi và thu nhập của người lao động.

Uber sẽ kháng án

Về phía Uber, hãng công nghệ Mỹ cho biết sẽ kháng án đối với quyết định xử phạt của cơ quan quản lý Hà Lan.

Mức phạt gần 1 tỷ USD cho thấy các cơ quan quản lý châu Âu đang ngày càng siết chặt việc sử dụng dữ liệu và các hệ thống tự động của doanh nghiệp công nghệ, nhất là trong những trường hợp thuật toán có thể đưa ra quyết định ảnh hưởng đáng kể đến cuộc sống và quyền lợi của con người.