Phát hiện ra AI tuyển dụng "trọng nam khinh nữ", Amazon buộc phải tắt nó đi

1.603

Sau nhiều lần tinh chỉnh mà không thành công, Amazon đã từ bỏ dự án tuyển dụng bằng AI của mình.

Theo Reuters, năm 2014, Amazon đã thành lập một nhóm kỹ thuật tại Edinburgh, Scotland với nhiệm vụ tìm cách tự động hóa việc tuyển dụng. Nhóm này đã tạo ra 500 mẫu máy tính để rà soát CV của các ứng viên mà họ tuyển trước đây nhằm lọc ra khoảng 50.000 thuật ngữ chính. Sau đó, hệ thống sẽ tìm kiếm trên web để lựa chọn và đề xuất các ứng viên phù hợp với công việc.

AI tự kết luận rằng đàn ông thích hợp hơn với các công việc tại Amazon.

"Theo nghĩa đen, khi đua cho hệ thống này 100 ứng viên, nó sẽ chọn cho bạn 5 ứng viên tốt nhất và chúng tôi sẽ tuyển những người đó", một nguồn tin nội bộ chia sẻ với Reuters.

Tuy nhiên, một năm sau, các kỹ sư của Amazon phát hiện ra hệ thống AI tuyển dụng của họ có một vấn đề khá nghiêm trọng: Nó không thích phụ nữ. Nguyên nhân của vấn đề này là do AI đã phân tích các bản lý lịch được gửi tới cho Amazon trong 10 năm qua để tích lũy dữ liệu về ứng viên.

Dựa trên dữ liệu thu thập được, AI tự kết luận rằng đàn ông thích hợp hơn với các công việc tại Amazon. Nhóm kỹ thuật phát hiện ra rằng AI đã tự động giảm điểm số của các bản CV có từ phụ nữ và loại các ứng viên từng học hai trường đại học chỉ dành cho nữ sinh.

Các kỹ sư của Amazon đã sửa hệ thống để khắc phục những hình thức thiên vị kể trên. Tuy nhiên, họ sợ rằng AI sẽ tìm ra cách mới để đối xử bất công với các ứng viên.

Jeff Bezoz - ông chủ của Amazon.

Trọng nam khinh nữ không phải là vấn đề duy nhất với AI tuyển dụng này. Nguồn tin nội bộ chia sẻ với Reuters rằng AI cũng đề xuất các ứng viên không đủ năng lực cho vị trí tuyển dụng.

Sau những tinh chỉnh vất vả, cuối cùng năm ngoái Amazon đã từ bỏ dự án tuyển dụng bằng AI bởi các giám đốc đã mất niềm tin vào nó. Các chuyên gia tuyển dụng của Amazon cũng xem qua danh sách khuyến nghị mà AI cung cấp nhưng không bao giờ dựa hoàn toàn vào nó.

"Các nhà tuyển dụng của Amazon không bao giờ sử dụng cách này để tuyển ứng viên cho các công việc của mình", phát ngôn viên của Amazon tuyên bố.

Cập nhật: 16/10/2018 Theo Trí Thức Trẻ/cafebiz