Ethical Design: จากมนุษยนิยมสู่ซอมบี้ผู้ไม่ตายแต่ไร้มูลค่าทางเศรษฐกิจ แล้วฉันเลือกอะไรได้ไหม?

คุณหวาดกลัวหุ่นยนต์หรือไม่ และเพราะอะไร

ไม่ต้องสงสัยเลยว่า ภาพจำจากหนังไซไฟ-นิยายวิทยาศาสตร์หลายเรื่อง ที่กระตุ้นต่อมความกลัวซ้ำๆ ว่าสักวันหุ่นยนต์จะลุกขึ้นมาล้างโลก จะส่งผลให้เราอดหนาวๆ ร้อนๆ ไม่ได้ โดยเฉพาะเมื่อ “พวกมัน” เริ่มเข้ามาอยู่ในชีวิต “พวกเรา” มากขึ้นอย่างในปัจจุบัน

ภาพจากเรื่อง Terminator 3

“บางทีความผิดบาปที่เลวร้ายที่สุดของนิยายวิทยาศาสตร์ยุคนี้ก็คือ มันมีแนวโน้มที่จะสับสนระหว่างปัญญากับสำนึก…

“ด้วยเหตุนี้ มันจึงเอาแต่วาดภาพสงครามที่อาจจะเกิดขึ้นระหว่างหุ่นยนต์กับมนุษย์ ทั้งที่ในความเป็นจริง สิ่งที่เราควรจะกลัวก็คือ ความขัดแย้งระหว่างกลุ่มยอดมนุษย์หัวแถวไม่กี่คนที่ทรงพลังด้วยอัลกอริทึ่ม กับมวลมหาโฮโมเซเปียนส์ชั้นล่าง ผู้ไม่มีพลังอำนาจใดเหลืออยู่เลยต่างหาก”

คำกล่าวของนักเขียนที่สร้างงานระดับปรากฏการณ์อย่างยูวาล โนอาห์ ฮารารี (Yuval Noah Harari) ในหนังสือเล่มล่าสุด 21 Lesson for the 21st Century เตือนให้ฉุกคิดว่าเราเสียเวลากันไปตั้งเท่าไรกับการไล่สร้าง-ไล่ดูภาพยนตร์หุ่นยนต์ล้างโลก

ทั้งที่หากหยุดคิดสักหน่อย เราก็เริ่มเห็นอนาคตแล้วว่า มันอาจจะเป็นสงครามระหว่างมนุษย์ด้วยกัน บนประเด็นเรื่องความยุติธรรมต่างหาก

ออกแบบมนุษย์
แม้ประวัติศาสตร์จะเตือนเราซ้ำๆ ว่าอนาคตไม่ใช่สิ่งที่คาดการณ์ได้อย่างแท้จริง แต่ทิศทางการพัฒนาเทคโนโลยีบอกกับเราว่ามีสองสิ่งที่โลกน่าจะได้เห็นในอีกไม่นาน

หนึ่งคือหุ่นยนต์จะเข้ามาแทนที่งานของมนุษย์ในปัจจุบันแทบทั้งหมด (ส่วนงานในอนาคตต้องรอดูว่าอะไรคืองานใหม่ที่เราจะสร้างขึ้น) และสอง จะมีมนุษย์ระดับบนกลุ่มเล็กๆ เท่านั้นที่ควบคุมทุกอย่าง

ไม่เพียงงานที่อาศัยความถูกต้องแม่นยำซึ่งหุ่นยนต์จะแย่งเราไปง่ายมากเท่านั้น แม้แต่งานที่ต้องอาศัยความเห็นอกเห็นใจหรือสัมผัสแห่งความเป็นมนุษย์ ก็ใช่ว่าจะรอด เพียงแต่อาจจะโดนแย่งช้ากว่า ในแง่นี้หมอจะโดนแย่งงานก่อนพยาบาล (แต่หมออาจมีทางสร้างงานใหม่ขึ้นง่ายกว่า)

ความย้อนแย้งก็คือ ในขณะที่มนุษย์ส่วนใหญ่กลายเป็นสิ่งมีชีวิตที่สร้างผลผลิตทางเศรษฐกิจไม่ได้ แต่ก็ดันจะอายุยืนและตายยาก เพราะความก้าวหน้าทางเทคโนโลยีการแพทย์

ไม่ว่าจะเป็นความก้าวหน้าในการป้องกันโรค ตรวจวินิจฉัยความผิดปกติล่วงหน้าได้อย่างละเอียดที่บ้าน ปลูกถ่าย-พิมพ์อวัยวะขึ้นใหม่ หรือแม้แต่ตัดต่อพันธุกรรม ออกแบบมนุษย์ที่จะลืมตามาดูโลก

ปัญหาคือถ้าเราจะไม่ตาย แต่ก็ไม่สามารถสร้างผลผลิตใดๆ ได้ แล้วเราจะต่างอะไรกับซอมบี้?

การกำเนิดของ Replicant มนุษย์สังเคราะห์ | ภาพจากเรื่อง Blade Runner 2049

ออกแบบยอดมนุษย์
ประเด็นอยู่ตรงที่ว่า บุญพาวาสนาจะสำคัญกว่าเดิม เพราะคงไม่ใช่เด็กทุกคนบนโลกที่จะได้รับการออกแบบจากนักออกแบบพันธุกรรมชั้นเลิศ 

ยิ่งเมื่อวิศวกรรมชีวภาพที่ทำให้เราออกแบบมนุษย์ด้วยกันได้ บวกเข้ากับเทคโนโลยีข้อมูลอย่างบิ๊กดาต้า นั่นก็ทำให้คนกลุ่มเล็กๆ สามารถควบคุมคนที่เหลือทั้งโลกได้ เกิดเป็นชนชั้นยอดมนุษย์ใหม่ (ที่จะมีปัญญาหนีไปตั้งรกรากบนดาวอังคารในวันที่โลกล่มสลาย) 

ใครจะเคยคิดว่า จากวันที่นิทเช่  (Friedrich Nietzsche) ประกาศกว่าพระเจ้าตายแล้ว และแนวคิดเรื่องมนุษย์มีเหตุผลเบ่งบาน อีกไม่กี่ร้อยปีหลังจากนั้น มนุษย์จะตั้งตนเป็นพระเจ้าเสียเอง 

ปัญหาคือ พระเจ้าในวันก่อนหยั่งรู้ทุกเรื่อง ควบคุมทุกอย่างได้ แต่ในวันนี้ที่โลกร้อยกันไว้อย่างซับซ้อน แม้แต่ยอดมนุษย์หมายเลขหนึ่ง ก็อาจรู้เพียงแต่ว่าจะใช้ประโยชน์จากโลกใหม่นี้อย่างไร แต่ก็ไม่ได้เข้าใจความซับซ้อนของมันได้อย่างแท้จริง

แม้แต่รัฐบาล ที่ใช้ประโยชน์จากเทคโนโลยีข้อมูลในการควบคุมสังคม ก็ไม่ได้หมายความว่า จะสามารถรับมือกับปัญหาที่อาจเกิดจากเทคโนโลยีข้อมูลได้อย่างแท้จริง เอาเข้าจริงรัฐบาลส่วนใหญ่ในปัจจุบันต้องถือว่าเป็นมือรองจากอาลีบาบา กูเกิล หรือเฟซบุ๊กด้วยซ้ำ

©commons.wikimedia.org

ปัญหาไม่ได้มีอยู่แค่ว่าเราจะกลายเป็นซอมบี้ไร้มูลค่าทางเศรษฐกิจ ผู้ต้องพึ่งพารายได้ขั้นต่ำที่รัฐบาลจะให้กับทุกคนในอนาคต (Universal Basic Income) เท่านั้น เพราะแม้แต่อำนาจทางการเมือง ที่เราเคยคิดว่าอย่างไรเสียมันก็จะต้องอยู่ในมือเราที่มีหนึ่งเสียงเท่ากันทุกคน เราก็อาจจะไม่ได้เป็นเจ้าของมันอีกต่อไป

เพราะการตัดสินใจที่เราเป็นผู้เลือกเอง ก็อาจจะไม่ได้เป็นอย่างนั้นเสียทีเดียว จะมีก็แต่การตัดสินใจที่เราหลงคิดไปว่าเราเป็นผู้เลือกเอง

หรือแม้แต่เจตจำนงเสรี ที่หลายคนเคยเชื่อว่าตนเองมี ก็ถูกความก้าวหน้าของประสาทวิทยาศาสตร์ (Neuroscience) พรากไปด้วยการอธิบายหน้าตาเฉยว่ามันก็เป็นเพียงการประมวลผลของสมอง แน่นอนว่าอะไรที่มีวัตถุดิบให้ประมวลผลได้ ก็เขียนอัลกอริทึ่มเพื่อจัดการมันได้

เรากำลังสูญเสียอำนาจพื้นฐานในความเป็นมนุษย์ และเหลือความเกี่ยวข้องน้อยมากกับโลกใบนี้

©Unsplash/Jens Johnsson

ออกแบบความคิด
เมื่อเราเปลี่ยนผ่านจากการเป็นมนุษย์สู่การเป็นข้อมูล จากผู้บริโภคสู่การเป็นวัตถุดิบหรือสินค้าเสียเอง นั่นคือเหตุผลที่เราต้องหยิบเรื่องจริยธรรมในการออกแบบขึ้นมาพูดกันอย่างจริงจัง 

ไม่ได้ชวนให้มองโลกในแง่ร้าย แต่หากย้อนไปดูประวัติศาสตร์โลก เทคโนโลยีส่วนใหญ่มีทั้งคุณและโทษ ต่างกันก็เพียงแต่ว่า งานออกแบบทางเทคโนโลยีในอดีตนั้น กว่าจะเห็นโทษของการใช้เทคโนโลยีเกินขอบเขตก็ต้องอาศัยเวลา เช่น การใช้ถ่านหินเป็นพลังงานขับเคลื่อนทุกอย่างจากยุคปฏิวัติอุตสาหกรรม จนถึงวันที่สภาพอากาศเปลี่ยนแปลงจนเอาไม่อยู่

แต่ในปัจจุบันเราไม่ต้องรอนานขนาดนั้น ลองหลับตานึกภาพวันที่เราตื่นเต้นกับการได้ยินคำว่าบิ๊กดาต้า กับวันที่เราเริ่มหวาดกลัวมัน หักลบเวลากันแล้วไม่นานเลย

น่าเสียดายว่า นอกจากฝากความหวังไว้ที่เทคโนโลยีอย่างบล็อกเชน ที่หวังกันว่าจะช่วยกระจายอำนาจการใช้ข้อมูล กับคำแนะนำเรื่องจริยธรรมการออกแบบไม่กี่ข้อจากองค์กรระหว่างประเทศที่ยังไม่รู้ว่าจะบังคับใช้อย่างไร  เราก็ยังไม่เห็นว่าเรื่องนี้จะคลี่คลายอย่างไร

โดยเฉพาะเมื่อรัฐบาล ซึ่งเป็นผู้มีหน้าที่ปกป้องเราทุกคนจากความไม่มั่นคง เปลี่ยนหน้าที่เป็น “ผู้ใช้” ข้อมูลเสียเองเพื่อความมั่นคง แล้วจะให้ใครปกป้องเรากันดี

ทั้งหมดที่กล่าวมาอาจไม่มีอะไรใหม่สำหรับคนที่ติดตามข่าวสารด้านวิทยาศาสตร์และเทคโนโลยี แต่เป็นประโยคที่ฮารารี กล่าวปิดประเด็นเกี่ยวกับนิยายวิทยาศาสตร์เอาไว้ต่างหาก ที่ทำให้เราต้องฉุกคิดว่าบางทีมันอาจจะต้องกลับไปตั้งต้นที่อะไรที่พื้นฐานกว่านั้น 

“ในการถกเถียงเรื่องอนาคตของปัญญาประดิษฐ์  คาร์ล มาร์กซ์ ยังคงเป็นผู้ชี้นำที่ดีกว่าสตีเฟน สปีลเบิร์ก” 

บางที การรับมือกับโลกใหม่อาจไม่ใช่การโฟกัสไปที่เทคโนโลยีตรงๆ แต่เป็นความคิดพื้นฐานต่างหากที่สำคัญ เพราะในโลกที่ซับซ้อนจนไม่มีใครเข้าใจมันได้อย่างแท้จริง ก็ไม่มีอะไรแยกออกจากกันได้อย่างแท้จริงเช่นกัน

ที่มา :
หนังสือ 21 Lesson for the 21st Century โดย Yuval Noah Harari, Penguin Random House, 2018

เรื่อง Little Thoughts