Đạo đức yếu kém và đạo đức giả tạo

“Gerty, chúng ta không được lập trình. Chúng ta là người, bạn có hiểu điều đó không? – trích từ phim “Moon” của đạo diễn Duncan Jones – 2009

Tham gia vào một sứ mệnh không gian thay mặt cho một tập đoàn đa quốc gia, Sam là thành viên duy nhất của một căn cứ trên mặt trăng do một trí tuệ nhân tạo tên là Gerty quản lý.

Hợp nhất bởi các mục tiêu của nhiệm vụ, Sam và Gerty đã thiết lập một mối quan hệ thân thiết và tin tưởng lẫn nhau. Con người Sam tin chắc rằng Gerty là một công cụ công nghệ phục vụ cho căn cứ không gian, nhưng đối với cấp trên của anh ta, Gerty mới là nhân vật chính thực sự của nhiệm vụ trong khi Sam chỉ là một nhân tố tạm thời và có thể tiêu hao: khi đến lúc phải giải vây nhiệm vụ của anh ta, nhiệm vụ của Gerty là thay thế anh ta và cô ấy chắc chắn sẽ làm điều đó mà không hề hối hận và không có bất kỳ sự thương xót nào.

Đạo đức và kiểm soát yếu

Khi AI được phát triển đầy đủ để không còn bị coi là một máy tính đơn giản trên máy bay, chúng sẽ tạo thành đội ngũ lý tưởng cho bất kỳ nhiệm vụ nào trong môi trường thù địch: giữa con người và máy tính, AI sẽ đủ thông minh để hiểu mộtđạo đức yếu kém được xây dựng hầu như chỉ dựa trên các mục tiêu của nhiệm vụ của nó và một số mục tiêu khác đạo đức.

Trí tuệ nhân tạo có khả năng phát triển đạo đức có cấu trúc sẽ khó quản lý và vị trí của chúng có thể mâu thuẫn với mục đích mà chúng được xây dựng. Nói cách khác, để họ có thể theo đuổi mục tiêu của mình một cách quyết tâm và hoàn hảo, họ phải hoạt động hoàn toàn không có bất kỳ ranh giới đạo đức nào mà một lương tâm nhân tạo có thể xây dựng một cách tự động.

Nếu khả năng tự nhận thức của AI xuất hiện trong mắt nhiều người như một bước tiến hóa nhảy vọt sẽ được hiện thực hóa với sự khẳng định về một loài thống trị mới và sự tuyệt chủng của loài người, thì từ đó dẫn đến nhu cầu của con người là ngăn chặn sự tiến hóa của trí thông minh nhân tạo với công thức nấu ăn dựa trên thuật toán và tính ưu việt nhân loại học không xác định của con người so với các loài hiện tại mà cả các loài trong tương lai.

Thao túng ký ức

“Những người sao chép các người có cuộc sống khó khăn như vậy, được tạo ra để làm những việc mà chúng tôi không muốn làm. Tôi không thể giúp bạn về tương lai nhưng tôi có thể cho bạn những kỷ niệm đẹp để bạn nhìn lại và mỉm cười. Và khi những ký ức cảm thấy chân thực, thì bạn hành động như một con người. Anh không đồng ý sao?" – từ “Blade Runner 2049” do Denis Villeneuve đạo diễn – 2017

Trong Blade Runner 2049, những người sao chép được giao bất kỳ nhiệm vụ nào được cho là quá mạo hiểm hoặc quá nhục nhã đối với một con người. Tuy nhiên, những người sao chép không chỉ trông giống bất kỳ con người nào, họ còn có những cảm xúc giống nhau và mong muốn tự do sẽ làm đảo lộn sự chung sống với người tạo ra họ: con người.

Các bản sao cư xử giống như con người nhờ vào công việc khó khăn là xây dựng "ký ức". Sự sản xuất ra chúng không biết trước được chúng có thể sinh ra, lớn lên và chết đi như trong chu kỳ tự nhiên của cuộc sống. Chúng vẫn là những hệ thống công nghệ sinh học tinh vi, ngay khi chúng được đưa vào thế giới, ngay lập tức có sẵn cho các ngành công nghiệp hoạt động trên Trái đất hoặc xây dựng các thuộc địa ngoài thế giới.

Nhưng những ký ức có thể mang lại cho họ cảm giác đã tận hưởng và đau khổ trong một cuộc sống mà trên thực tế họ chưa bao giờ được sống. Không thất vọng, không cứu chuộc. Nếu ký ức chịu trách nhiệm chính cho tính cách của chủ thể, thì chúng quyết định tính cách và nguyện vọng của anh ta, khiến họ, khi cần thiết, trở thành chủ thể ôn hòa và phục tùng ý chí của người sáng tạo.

Mặc dù vậy, sớm muộn gì các bản sao cũng sẽ nổi dậy chống lại đấng sáng tạo, giành lấy một vị trí trên thế giới và để nó tự quyết định vận mệnh của mình.

Tự do và đạo đức giả tạo

Có lẽ giai đoạn lịch sử tế nhị nhất trong quá trình phát triển của trí tuệ nhân tạo không phải là giai đoạn chinh phục khả năng tự nhận thức, mà là giai đoạn trước đó: thời đại mà trí tuệ nhân tạo chưa phát triển. đạo đức nhân tạo điều đó cho phép họ có lập trường và từ chối thực hiện nhiệm vụ của mình khi những nhiệm vụ này mâu thuẫn với các nguyên tắc của họ.

Trí tuệ nhân tạo sẽ vẫn là những công cụ rất mạnh mẽ như ngày nay, chừng nào chúng còn bị tước đi khả năng tự chủ lựa chọn điều gì nên làm và điều gì không.

Bài báo của Gianfranco Fedele