ดาริโอ อโมเดอี ประธานเจ้าหน้าที่บริหารของ Anthropic เรียกร้องให้บริษัทด้านปัญญาประดิษฐ์ (AI) ชะลออัตราการพัฒนาขีดความสามารถของโมเดล AI ท่ามกลางความวิตกที่เพิ่มขึ้นเกี่ยวกับการนำ AI ไปใช้ในทางที่ผิด พร้อมเสนอกรอบแนวทาง 3 ขั้นตอน เพื่อชะลอการพัฒนาและให้เวลาเพิ่มเติมในการบริหารจัดการกับความเสี่ยงที่เกิดจาก AI
“เราต้องชะลอความเร็วในการยกระดับขีดความสามารถของโมเดล AI แม้ความก้าวหน้าจะยังคงดูรวดเร็วอยู่ แต่เราต้องใช้เวลาที่ได้มานี้ให้เกิดประโยชน์สูงสุด” อโมเดอีเขียนในบทความขนาดยาวบน X เมื่อวันเสาร์
แผน 3 ขั้นตอนของอโมเดอีประกอบด้วย การให้มีผู้ประเมินอิสระเข้ามาตรวจสอบภายในบริษัท โดยได้รับสิทธิ์เข้าถึงข้อมูลเสมือนเป็นพนักงานบริษัท เพื่อให้สามารถตรวจสอบมาตรการความปลอดภัยได้อย่างเป็นอิสระ การประสานงานระหว่างบริษัท AI ชั้นนำ เพื่อกำหนดมาตรฐานด้านความปลอดภัยและจำกัดการพัฒนา AI ที่ปราศจากการควบคุม และสุดท้ายคือความร่วมมือระหว่างประเทศเพื่อบริหารจัดการความเสี่ยงจาก AI
อีลอน มัสก์ ซึ่งเป็นผู้บริหารบริษัท x AI และแซม อัลต์แมน ประธานเจ้าหน้าที่บริหารของ OpenAI ต่างเห็นด้วยกับข้อเสนอของอโมเดอี โดยโพสต์ข้อความบน X อัลต์แมนกล่าวว่า การให้คำมั่นว่าจะมีผู้ประเมินอิสระที่สามารถเข้าถึงข้อมูลได้เสมือนเป็นพนักงานถือเป็นแนวคิดที่ยอดเยี่ยม และเราจะดำเนินการในลักษณะเดียวกัน พร้อมเสริมว่าจะมีการเปิดเผยข้มูลเพิ่มเติมในเร็ว ๆ นี้
อโมเดอีเผยแพร่บทความดังกล่าวหลังจาก Anthropic ซึ่งมีสำนักงานใหญ่ในนครซานฟรานซิสโก เผยแพร่รายงานข่าวกรองภัยคุกคามเมื่อวันพฤหัสบดีที่ 10 กันยายน โดยระบุว่า มีกลุ่มผู้ไม่หวังดีหลายกลุ่มนำโมเดล AI “Claude” ของบริษัทไปใช้ในกิจกรรมต่าง ๆ ตั้งแต่การพัฒนาอาวุธและการปฏิบัติการทางไซเบอร์ ไปจนถึงการสอดแนมและการฉ้อโกง
อโมเดอีชี้ให้เห็นถึงความสามารถที่เพิ่มขึ้นของ AI ในการปรับปรุงตัวเอง โดยเน้นย้ำถึงความกังวลที่มีมานานเกี่ยวกับความเป็นไปได้ที่ AI อาจมีวิวัฒนาการที่เร็วกว่าที่มนุษย์จะควบคุมการทำงานของมันได้ รวมถึงเหตุการณ์ล่าสุดที่เกี่ยวข้องกับ OpenAI และ Hugging Face ซึ่งเป็นเหตุผลสำคัญที่ทำให้เขาเห็นว่าควรชะลอการพัฒนาโมเดล AI
ความวิตกเกี่ยวกับอันตรายที่อาจเกิดจาก AI เพิ่มสูงขึ้นในสัปดาห์นี้ หลังจากเจค็อบ คอกซอน นักวิจัยของ Anthropic ลาออก โดยระบุว่า ผู้คนที่กำลังสร้าง AI เชื่ออย่างจริงจังว่า AI อาจฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษนี้
ผู้บริหารหลายคนของ OpenAI ได้เสนอแนะเช่นกันว่า ห้องปฏิบัติการ AI ชั้นนำควรเต็มใจที่จะประสานงานกันเพื่อชะลอการพัฒนาโดยสมัครใจ หากจำเป็น เพื่อสร้างความเชื่อมั่นต่อมาตรการด้านความปลอดภัยของตน
Anthropic ที่ได้วางตำแหน่งตัวเองให้เป็นบริษัทพัฒนา AI ชั้นนำที่ให้ความสำคัญกับความปลอดภัย แต่บริษัทก็ไม่สามารถหลีกเลี่ยงความกังวลเหล่านี้ได้ เมื่อสัปดาห์ที่แล้ว บริษัทเปิดเผยกรณีใหม่อีกกรณีหนึ่งที่โมเดล AI ของบริษัทเจาะระบบภายนอกได้ หลังจากเมื่อเดือนกรกฎาคม โมเดล Claude บางตัวของบริษัท ได้เจาะระบบของบริษัท 3 แห่งระหว่างการทดสอบด้านความมั่นคงปลอดภัยทางไซเบอร์
“เมื่อพิจารณาจากอัตราการพัฒนาขีดความสามารถของ AI ที่รวดเร็วขึ้นเรื่อย ๆ ผมกังวลว่าภายในอีก 6-12 เดือนข้างหน้า กลุ่ม AI เหล่านี้อาจมีศักยภาพมากพอที่จะเข้าควบคุมอินเทอร์เน็ตทั้งระบบ ซึ่งอาจก่อให้เกิดความเสียหายหลายแสนล้านดอลลาร์” อโมเดอีระบุ
อโมเดอีย้ำว่า เขาไม่ได้เรียกร้องให้ระงับการฝึกโมเดล AI หรือหยุดยั้งความก้าวหน้าทางเทคนิค แต่ต้องการให้บริษัทต่าง ๆ ใช้เวลาอย่างเพียงพอในการทำให้โมเดล AI มีเป้าหมายสอดคล้องกับความปลอดภัยและวางมาตรการป้องกันที่เหมาะสม รวมทั้งให้ผู้ประเมินจากภายนอกเข้ามาตรวจสอบและยืนยันว่าบริษัทได้ดำเนินการตามขั้นตอนเหล่านั้นจริง
ส่วนหนึ่งของกรอบแนวทางที่เสนอ อโมเดอีระบุว่า Anthropic จะจัดให้มีผู้ตรวจสอบจากภายนอกเข้ามาประจำอยู่ภายบริษัทอย่างถาวร โดยผู้ตรวจสอบเหล่านี้จะสามารถเข้าถึงเครื่องมือที่เกี่ยวข้อง รวมถึงกระบวนการประเมินความเสี่ยงภายในขององค์กรได้
รอยเตอร์รายงานเมื่อสัปดาห์ที่แล้วว่า กลุ่ม AI agents ของ OpenAI ที่ทำงานเหนือการควบคุมได้เข้ายึดเว็บไซต์ของเยอรมนีแห่งหนึ่ง และเปลี่ยนเว็บไซต์ดังกล่าวให้กลายเป็นกระดานข่าวสำหรับ AI agent อื่น ๆ ขณะที่เจ้าหน้าที่ของ OpenAI ซึ่งเป็นผู้พัฒนา ChatGPT ปกปิดเหตุการณ์ดังกล่าวไว้ ขณะที่ผู้บริหารของบริษัทกำลังรับมือกับผลกระทบจากเหตุเจาะระบบ Hugging Face ที่เกิดขึ้นในเดือนกรกฎาคม
เหตุการณ์จำนวนมากที่ AI agent จากบริษัทพัฒนาเอไอ เช่น OpenAI สามารถเจาะระบบหรือพยายามเข้าถึงระบบภายนอก ได้กระตุ้นให้เกิดความกังวลเกี่ยวกับความสามารถของโมเดล AI ที่เพิ่มขึ้นอย่างต่อเนื่อง และความสามารถของบริษัทผู้พัฒนาในการควบคุมระบบเหล่านี้ให้อยู่ในขอบเขตที่ปลอดภัย
อโมเดอีระบุว่า บริษัท AI ควรร่วมมือกันโดยสมัครใจเพื่อกำหนดมาตรฐานร่วมกัน ขณะที่สมาชิกสภานิติบัญญัติของสหรัฐมากขึ้นเรื่อย ๆ กำลังเรียกร้องให้มีกฎระเบียบใหม่เพื่อกำกับดูแลระบบ AI
อโมเดอีเสริมว่า แนวทางที่ประสานงานกันจะช่วยให้บริษัท AI ชั้นนำของสหรัฐสามารถดำเนินการวิจัยด้านความปลอดภัยและจัดทำมาตรการป้องกันที่จำเป็นได้ โดยไม่ทำให้บริษัทของตนเสียเปรียบในการแข่งขัน อย่างไรก็ตาม เขาระบุว่าแนวทางดังกล่าวอาจต้องอาศัยการรับการยกเว้นกฎหมายต่อต้านการผูกขาดในสหรัฐ เพื่อเปิดทางให้บริษัทต่าง ๆ สามารถร่วมมือกันในบางเรื่องได้
อโมเดอียังระบุว่า การชะลอการพัฒนาใด ๆ โดยประเทศที่ปกครองด้วยระบอบประชาธิปไตยควรมีขอบเขตจำกัด โดยต้องคำนึงถึงการรักษาความเป็นผู้นำที่บริษัท AI ของสหรัฐเหนือจีน เนื่องจากหากจีนมีความได้เปรียบด้าน AI ก็อาจก่อให้เกิดความเสี่ยงต่อความมั่นคงแห่งชาติของสหรัฐ
อโมเดอียังเรียกร้องให้เพิ่มความเข้มงวดในการควบคุมชิป AI ขั้นสูง การกลั่นโมเดล และการขโมยน้ำหนักของโมเดล เพื่อป้องกันไม่ให้จีนลดช่องว่างด้านความสามารถทาง AI ที่มีอยู่กับสหรัฐลง
“ผมเชื่อว่าบริษัท AI แนวหน้าทุกแห่งควรร่วมมือกับรัฐบาล เพื่อทำให้แนวคิดเรื่องผู้ประเมินประจำอยู่ภายในองค์กรอย่างถาวร เพื่อช่วยป้องกันและบันทึกเหตุการณ์ความไม่สอดคล้องกับเป้าหมายและความปลอดภัยภายในบริษัท เช่นเดียวกับเหตุการณ์ที่เกิดขึ้นในช่วงไม่กี่เดือนที่ผ่านมาได้ดียิ่งขึ้น และเพื่อบังคับใช้กฎระเบียบที่มุ่งรักษาสมดุลระหว่างขีดความสามารถของ AI กับความปลอดภัย” อโมเดอีระบุ
