Máy tính trong kiểm soát: Chuyển nhượng quyền lực hợp lý hay từ bỏ tính tự chủ một cách vô trách nhiệm?

Con người nên chuyển giao hay từ bỏ "trách nhiệm" cho máy tính đến mức độ nào? Trong bài báo này, tôi phân biệt sáu nghĩa khác nhau của từ ‘trách nhiệm’ và sau đó xem xét trong nghĩa nào máy tính có thể, và trong nghĩa nào mà không thể, được cho là "chịu trách nhiệm" về việc “quyết định” các kết quả khác nhau. Tôi phân loại và khám phá hai loại khiếu nại khác nhau về việc đặt máy tính vào “quyền kiểm soát” cao hơn trong cuộc sống của chúng ta: (i) là những sinh vật hữu hạn và dễ mắc sai lầm, có giới hạn trong việc đạt được độ tin cậy cao hơn thông qua các thiết bị phức tạp do chính chúng ta thiết kế; (ii) ngay cả khi máy tính đáng tin cậy hơn con người, một số nhiệm vụ (ví dụ, chọn món quà thích hợp cho một người bạn, giải ô chữ hàng ngày) không nên được thực hiện bởi bất cứ ai (hay bất cứ cái gì) ngoài chính mình. Khi đánh giá một cách phê phán những tuyên bố này, tôi đưa ra ba kết luận chính: (1) Trong khi chúng ta nên khắc phục nhiều thiếu sót của mình bằng cách tận dụng bộ nhớ lớn hơn của máy tính, tốc độ xử lý nhanh hơn và sức bền lớn hơn, chúng ta bị giới hạn bởi chính sự hữu hạn và khả năng sai lầm của mình (chứ không phải bởi những giới hạn có thể có của silicon và kim loại) trong khả năng vượt qua sự không đáng tin cậy của bản thân. Hơn nữa, nếu chúng ta dựa vào máy tính được lập trình đến mức mất liên lạc với kinh nghiệm và cái nhìn của con người đã hình thành cơ sở cho thiết kế lập trình của chúng, sự sai lầm của chúng ta sẽ bị phóng đại thay vì được giảm nhẹ. (2) Các tác nhân đạo đức tự trị có thể hợp lý khi nhường quyền cho chuyên môn cao hơn, dù là con người hay máy tính. Nhưng họ không thể hợp lý từ bỏ trách nhiệm "giám sát nền tảng". Họ phải chuẩn bị, ít nhất là định kỳ, để xem xét liệu “chuyên môn” mà họ nhường quyền cho có thực sự hoạt động như đã được ủy quyền hay không, và thực hiện các bước cần thiết để thu hồi quyền đó, nếu cần thiết. (3) Mặc dù các kết quả là quan trọng, nhưng cách chúng được đạt được và ai thực hiện chúng cũng có thể quan trọng. Do đó, suy nghĩ về việc bao nhiêu phần cuộc sống của chúng ta nên được điều khiển và thực hiện bởi máy tính có thể là một cách khác để kiểm tra bất kỳ khái niệm nào về sự sống tốt đẹp và đúng đắn theo kiểu cuối cùng hay theo hệ quả. Để sống có ý nghĩa và mục đích, chúng ta cần tích cực sử dụng khả năng của chính mình và kết nối đầy cảm thông với người khác.