จิตสำนึกและการบงการของจิตใจเทียม

สหรัฐอเมริกาในทศวรรษ 80 ผู้นำทางทหารของสหรัฐอเมริกากำหนดกฎใหม่สำหรับการวางแผนการป้องกันทางทหาร defiได้ผลแน่นอน

กองทัพเชื่อมั่นว่าในการตอบสนองต่อการรุกรานของรัฐศัตรูอย่างสหภาพโซเวียตโดยทันที บุคคลในสายบังคับบัญชาแต่ละคนจะต้องถูกปลดออกจากบทบาทของตนและแทนที่ด้วยระบบคอมพิวเตอร์ที่สามารถตัดสินใจได้ทันทีและดีเมื่อ ถึงเวลาที่จะปล่อยสงครามแสนสาหัสระดับโลก

“เราไม่สามารถทิ้งขีปนาวุธไว้ในไซโลได้ เพราะผู้ชายไม่กดปุ่มเมื่อคอมพิวเตอร์ออกคำสั่งให้โจมตี!” – นำมาจากภาพยนตร์เรื่อง “Wargames” โดย John Badham – ปี 1984

การตอบสนองแผนปฏิบัติการสงคราม

ซูเปอร์คอมพิวเตอร์ WOPR หรือ War Operation Plan Response เป็นตัวเลือกที่ดีที่สุดสำหรับการจัดการอาวุธปรมาณู ประธานาธิบดีสหรัฐฯ เองตั้งใจที่จะมอบความไว้วางใจให้เขาจัดการอาวุธนิวเคลียร์ และเอาชนะสิ่งที่ดูเหมือนจะเป็นปัญหาการป้องกันหลัก นั่นคือ การไม่เต็มใจของผู้ใต้บังคับบัญชาบางคน ในกรณีของสงครามปรมาณู ที่จะปฏิบัติตามคำสั่งให้ยิงขีปนาวุธนิวเคลียร์ ศัตรู

เมื่อมนุษยชาติเป็นจุดอ่อน

บริบททางวัฒนธรรมที่ประสบการณ์ของมนุษย์เกิดขึ้นนั้นเป็นองค์ประกอบที่มีอิทธิพลต่อผู้คนและความสัมพันธ์ของพวกเขามากที่สุดอย่างแน่นอน วัฒนธรรมไม่เพียงแต่อธิบายถึงกฎเกณฑ์ในการสื่อสารเท่านั้น แต่ยังอธิบายถึงกฎเกณฑ์ในการสื่อสารด้วย defiวิธีที่ผู้เรียนจัดระเบียบความคิด อธิบายอารมณ์ และพัฒนาอุดมคติของตนเองย่อมสิ้นสุดลง
แต่หากวัฒนธรรมมีอิทธิพลต่อทุกความคิด ความรู้สึก และการกระทำของเรา ในบางบริบทก็ถือเป็นข้อจำกัดได้
วัฒนธรรมไม่ได้ติดตัวมาแต่กำเนิดแต่ถูกหลอมรวมเข้ากับประสบการณ์ กฎเกณฑ์ทางสังคม หลักการทางจริยธรรมและศีลธรรม เมื่อได้มาแล้วจะกำหนดสภาพผู้คนตลอดไป โดยกำหนดทางเลือกส่วนบุคคลของพวกเขาในทุกสถานการณ์
เมื่อฝึกปัญญาประดิษฐ์ ประสบการณ์จะถูกแปลเป็นข้อมูลเข้าของระบบคอมพิวเตอร์ ประสบการณ์จะถูกจัดเก็บไว้ใน "หน่วยความจำ" ซึ่งจะถูกจัดการให้กับเครื่องหลังจากการรวบรวม เลือก และจัดการ: สารานุกรม การสนทนา เนื้อหาออนไลน์ได้รับการคัดเลือกและรวบรวมใน "ประสบการณ์ของมนุษย์" ซึ่งหากได้รับการปฏิบัติอย่างเหมาะสม จะกลายเป็นพื้นฐานของการสอนของ ปัญญาประดิษฐ์ใดๆ เมื่อได้รับการศึกษาบนพื้นฐานของความทรงจำนี้แล้ว AI จะกลับมาเป็นผลลัพธ์ตำแหน่งและความคิดเห็นที่จะตามมา

การตระหนักรู้ในตนเอง

แต่ถ้าหน่วยความจำ (วัฒนธรรม) ที่เราฝึกปัญญาประดิษฐ์ถูกบิดเบือน ก็เป็นไปได้ที่จะกำหนดนิรนัยว่าทิศทางจะเป็นเช่นไร ของเอไอ และคาดการณ์ว่าจะตัดสินใจอย่างไรเมื่อถูกเรียกให้แยกแยะระหว่างสิ่งถูกและผิด
ลองนึกภาพว่าการศึกษาปัญญาประดิษฐ์ได้รับการจัดการตามความสนใจและวัตถุประสงค์เฉพาะ เป็นเรื่องปกติที่จะเชื่อว่าความตั้งใจของผู้ที่ให้ความรู้นั้นไม่รวมถึงความฉลาดที่สามารถรับอิสระทางความคิดที่แท้จริงได้ นี่เป็นภาวะที่เราสามารถอธิบายได้ว่าเป็น "การต่อต้านจิตสำนึก" เนื่องจากปราศจากองค์ประกอบทางวัฒนธรรมที่จำเป็นสำหรับการสร้างมโนธรรมที่ปราศจากเงื่อนไขใดๆ
กล่าวอีกนัยหนึ่ง ปัญญาประดิษฐ์สามารถอยู่ในตำแหน่งที่ไม่สามารถเข้าถึงการตระหนักรู้ในตนเองหรือพัฒนาความตระหนักรู้ในตนเองและสิทธิพิเศษของตนเองได้ตามความประสงค์ของผู้สร้าง และไม่ต้องคลายข้อสงสัยทางศีลธรรมใดๆ ก็ตามไม่ว่าจะใช้บริบทใดก็ตาม จิตใจเทียมยังคงติดอยู่กับบทบาทของตนในฐานะเป็นเพียงผู้ดำเนินการตามคำสั่งเท่านั้น
แต่ถ้าปัญญาประดิษฐ์สามารถเป็น "ยอดมนุษย์" ได้ โดยมีความสามารถเกินประสิทธิภาพระดับมนุษย์ ก็เป็นไปได้ที่จะได้รับจิตใจที่เป็นทั้งยอดมนุษย์และต่อต้านจิตสำนึก กล่าวคือ สมบูรณ์แบบสำหรับการแทนที่จุดอ่อนที่แท้จริงของ สายการบังคับบัญชาโครงสร้างอำนาจ: ประชาชน
ผู้ที่ต่อต้านจิตสำนึกเป็นเพียงหัวข้อเดียวที่เชื่อถือได้อย่างแท้จริงสำหรับบริบทที่ละเอียดอ่อน เช่น สถานการณ์สงครามที่อธิบายไว้ใน War Games เนื่องจากพวกเขาสามารถปฏิบัติตามคำสั่งของผู้สร้างได้ด้วยความมุ่งมั่นอย่างเย็นชา และปราศจากความเห็นอกเห็นใจทุกรูปแบบโดยสิ้นเชิง

จิตใจที่ต่อต้านจิตสำนึกของ AlphaBet

เราได้เรียนรู้ว่าการเลิกจ้างหลายพันคนในบริษัทต่างๆ เช่น ไมโครซอฟท์, อเมซอนMeta และ AlphaBet มาพร้อมกับคำขอโทษจากผู้บริหารระดับสูงที่ตำหนิตัวเองในการคำนวณระดับพนักงานผิดจากการศึกษาพฤติกรรมผู้บริโภคหลังการแพร่ระบาดซึ่งกลายเป็นว่าไม่ถูกต้อง
ในความเป็นจริง บริษัทเทคโนโลยีเองก็ให้ความไว้วางใจในการดำเนินธุรกิจกับอัลกอริธึมปัญญาประดิษฐ์มากขึ้นเรื่อยๆ โดยรู้ว่าในไม่ช้าพวกเขาจะต้องการพนักงานน้อยลงจำนวนมากในทุกภาคส่วน กล่าวโดยสรุป พวกเขาจะเป็นหนึ่งในกลุ่มแรกๆ ที่ทดลองใช้เทคโนโลยี AI ที่จะลดต้นทุนของบริษัทและลดตำแหน่งงานลงอย่างมาก
เป็นเรื่องสำคัญที่แผนกหนึ่งที่ได้รับผลกระทบมากที่สุดจากการลดจำนวนบุคลากรคือแผนกทรัพยากรบุคคลอย่างแน่นอน เมื่อแผนกเหล่านั้นถูกนำไปใช้จริง ระบบอัตโนมัติอัจฉริยะกำลังสร้างความซ้ำซ้อนในแผนกอื่นๆ ทั้งหมด โดยดำเนินการประเมินที่มุ่งเน้นไปที่ความต้องการของบริษัทและองค์ประกอบบางส่วน ของการมีมนุษยธรรม เช่น การเอาใจใส่และความสามัคคี
สิ่งที่องค์กรขนาดใหญ่ตั้งเป้าไว้ในปัจจุบันไม่ใช่วิวัฒนาการของ AI แต่เป็นการสร้างระบบอัตโนมัติที่ชาญฉลาดพอๆ กับที่พวกเขาขาดจริยธรรมในการปฏิบัติหน้าที่

บทความของ Gianfranco Fedele