อ้างอิงจากการตรวจสอบของ 1M AI News บทความในนิตยสาร The Atlantic ได้เผยแพร่ตัวอย่างหนังสือใหม่ของนักประวัติศาสตร์เทคโนโลยีและนักประวัติศาสตร์การเงิน Sebastian Mallaby ซึ่งอิงจากการสัมภาษณ์อย่างต่อเนื่องระหว่างปี 2023 ถึง 2026 ได้ย้อนรอยวิวัฒนาการแนวคิดด้านความปลอดภัยของ AI ของ Demis Hassabis ผู้ร่วมก่อตั้ง Google DeepMind ตั้งแต่ปี 2014 จนถึงปัจจุบัน
Hassabis ในช่วงแรกมีแนวคิดว่าจะสร้างซูเปอร์ปัญญาโดยทีมวิทยาศาสตร์เพียงทีมเดียว เพื่อความปลอดภัยของมนุษยชาติทั้งหมด และแม้แต่วางแผนให้ทีมวิจัยชั้นนำเข้าไปซ่อนตัวในฐานลับในช่วงวิกฤต คล้ายกับโครงการแมนฮัตตัน นักวิจัยคนหนึ่งที่เข้าร่วมไม่นานนักเล่าว่า Hassabis เตือนเขาในช่วงท้ายของการสัมภาษณ์ให้เตรียมพร้อมสำหรับการ “บินไปยังสถานที่ลับในโมร็อกโกได้ทุกเมื่อ”
เมื่อปี 2014 ที่ Google เข้าซื้อ DeepMind Hassabis ได้เสนอเงื่อนไขที่หายาก คือการตั้งคณะกรรมการกำกับดูแลภายนอกอย่างอิสระ ห้ามใช้ในทางทหาร และ Google ต้องไม่ควบคุมการใช้งานเทคโนโลยีอย่างเต็มที่ ซึ่ง Google ก็ยอมรับ ต่อมาในปีถัดมา เขาได้เรียกประชุมลับที่สำนักงานใหญ่ในเมืองฮอว์ธอร์น รัฐแคลิฟอร์เนีย ซึ่งเป็นการพยายามรวมพันธมิตรที่เป็นคู่แข่งในอนาคต แต่กลับกลายเป็นผลตรงกันข้าม เมื่อ Elon Musk ร่วมมือกับ Sam Altman ก่อตั้ง OpenAI ขึ้นมา
หลังจากนั้น Hassabis ได้ริเริ่มปฏิบัติการลับภายใต้ชื่อ “Project Mario” เพื่อพยายามเรียกคืนอำนาจในการบริหารจาก Google โดยสร้างทีมกฎหมายและได้รับคำมั่นสัญญาจาก Reid Hoffman ผู้ก่อตั้ง LinkedIn ว่าเขาจะสนับสนุนเงินจำนวน 1 พันล้านดอลลาร์ และพิจารณาที่จะแยก DeepMind ออกจาก Google การต่อสู้ครั้งนี้ดำเนินมาเป็นเวลาสามปี แต่ในที่สุดก็ล้มเหลว โดยผู้ร่วมก่อตั้ง Mustafa Suleyman ก็ถูกบังคับให้ออกจากบริษัทในปี 2019
หลังจากเปิดตัว ChatGPT ในปลายปี 2022 Hassabis ก็ได้ละทิ้งแนวทางที่เน้นทำวิทยาศาสตร์เพื่อประโยชน์อย่างเดียว เขาบอกกับ Mallaby ว่า “นี่คือสงคราม” แล้วจึงทุ่มเทเต็มที่ให้กับการแข่งขันระหว่าง Gemini กับ ChatGPT ท่ามกลางการลงทุนมูลค่าหลายแสนล้านดอลลาร์ในสงครามอาวุธ AI ทั้งในด้านกฎระเบียบของรัฐและโครงสร้างการบริหารของบริษัทก็ไม่สามารถหยุดยั้งการแข่งขันนี้ได้ ความเชื่อด้านความปลอดภัยของ Hassabis ก็เปลี่ยนแปลงไปอย่างสิ้นเชิง “ความปลอดภัยไม่ได้อยู่ที่โครงสร้างการบริหาร แม้ว่าจะมีคณะกรรมการกำกับดูแลก็ตาม ในช่วงวิกฤต มันก็มีแนวโน้มที่จะไม่ทำในสิ่งที่ถูกต้อง” กลยุทธ์ใหม่ของเขาคือการรับประกันว่าเขาจะ “มีที่นั่งบนโต๊ะตัดสินใจ เมื่อเกิดปัญหาด้านความปลอดภัย เขาจะได้มีส่วนร่วมในการตัดสินใจแก้ไข” ในขณะเดียวกัน Google ก็ได้เริ่มนำ AI ไปเสนอให้กับระบบกลาโหมของสหรัฐฯ อย่างจริงจัง ซึ่งเป็นการพลิกผันอย่างชัดเจนจากคำสั่งห้ามด้านการทหารที่เขาวางไว้ในตอนที่ซื้อกิจการ.
