Rõ ràng là không ai muốn trở thành nạn nhân của robot sau khi có ai đó ra lệnh cho chúng sát hại mình.
Robot được dạy cách từ chối mệnh lệnh của con người
Từ trước tới nay, robot luôn được tạo nên với mục đích phục vụ và hỗ trợ con người, chúng luôn được lập trình để tuân thủ mọi mệnh lệnh của chúng ta bằng bất cứ giá nào. Mặc dù vậy không phải lúc nào việc robot nghe lệnh con người cũng là hợp lý, ví dụ như các robot sát thủ chẳng hạn.
Vì vậy, các chuyên khoa học máy tính đã phải "vắt tay lên trán" để tìm ra cách hướng dẫn robot biết nói "không" với mệnh lệnh của con người trong một số trường hợp nhất định. Đến nay, họ đã đạt được những kết quả nhất định. Những chuyên viên nghiên cứu tại phòng thí nghiệm phản ứng tương tác giữa người và robot thuộc đại học Tufts (Massachusetts, Hoa Kỳ) đã tiến một bước đi dài trong việc dạy những cỗ máy vô tri biết từ chối con người.
Trước hết, các nhà khoa học cắt nghĩa khi nào con người sẽ thực hiện yêu cầu từ một người khác. Họ chỉ ra rằng khi nhận được yêu cầu, mệnh lệnh làm một việc gì đó thì con người thường sử dụng một thước đó cảm tính để xác định là yêu cầu đó có khiến bản thân cảm thấy vui vẻ, hanh phúc hay không. Nhưng đối với robot thì làm sao có thể dạy chúng biết cảm nhận? Một ý tưởng được đề cập đến là "quy đổi" những "chuẩn mực hạnh phúc" của con người sang những tiêu chí đánh giá dựa trên hiểu biết và khả năng tính toán của robot. Cụ thể, thay vì dạy robot "cảm thấy vui" thì các nhà khoa học dạy chúng biết đánh giá tình hình thực tế trước khi đưa ra quyết định có thực hiện mệnh lệnh hay không. Họ đã vạch ra những tiêu chí đánh giá mà robot sẽ lấy đó làm thước đo "mức độ hanh phúc của bản thân" như sau:
- Kiến thức: Tôi biết cách thực hiện việc đó không?
- Khả năng: Tôi có đủ điều kiện thể chất để làm việc đó không? (tức là robot sẽ tự tính toán khả năng vận hành của các bộ phận máy móc của mình).
- Mức độ ưu tiên: Tôi cần làm việc đó ngay bây giờ?
- Vai trò và bổn phận: Vai trò của tôi đối với xã hội sẽ được đánh giá qua việc thực hiện bổn phận đó?
- Chuẩn mực hành vi: Liệu mệnh lệnh này có khiến tôi vi phạm chuẩn mực hành vi của robot đối với xã hội.
Nếu 3 tiêu chí đầu thuộc về khả năng tự giải thích được bản thân thì tiêu chí thứ 4 sẽ hướng dẫn robot đánh giá thẩm quyền của người ra mệnh lệnh, trong khi đó tiêu chí thứ 5 sẽ chỉ dẫn robot hành vi này có gây hại cho con người hay không. Những tiêu chí này không chỉ nhằm dạy robot nên từ chối những mệnh lệnh nào mà còn giúp chúng có thể đưa ra những lý do cho việc từ chối như vậy.
Hãy theo dõi một ví dụ dưới đây: Một robot được yêu cầu bước lên phía trước của mép bàn nhưng sau khi phân tích được tình huống là nếu nó thực hiện mệnh lệnh này thì nó sẽ rơi khỏi mép bàn, chỉ sau khi con người đưa thêm điều kiện là sẽ đỡ nó khỏi bị rơi thì robot mới thực hiện mệnh lệnh.
Robot từ chối bước về phía mép bàn.
Một thí nghiệm nữa được diễn ra khi con người yêu cầu robot bước thẳng về hướng có vật cản, dĩ nhiên là robot sẽ từ chối với lý do nó phát hiện một thứ đang chắn trên lối đi. Khi được yêu cầu tắt hệ thống cảm biến phát hiện vật cản, robot đã từ chối một lần nữa vì nó xác nhận rằng người ra mệnh lệnh không đủ thẩm quyền để yêu cầu nó vô hiệu hóa hệ thống này.
Con người được xác định là không đủ thẩm quyền để yêu cầu robot vô hiệu hóa một chức năng của nó.
Khi một người có đủ thẩm quyền để yêu cầu robot làm mọi việc thì nó sẽ giống như video dưới đây khi robot đi xuyên qua đống cốc nhựa sau khi con người thuyết phục được nó rằng những vật cản đó không phải không thể đi xuyên qua.
Khi con người có đủ thẩm quyền để ra lệnh, robot sẽ làm mọi thứ.
Các chuyên gia tại đại học Tufts đã nhận định rằng trong thời điểm hiện tại hoặc tương lai gần thì robot chỉ nghe mệnh lệnh con người là một điều tốt và cần thiết, nhưng khi những cỗ máy này phát triển đến một mức độ nào đó thì việc chúng biết đánh giá các yêu cầu của chúng ta và cân nhắc có thực hiện hay không lại là hoàn toàn hợp lý.