สำนักข่าวเอพีรายงานว่า บริษัท โอเพ่นเอไอ (OpenAI) ได้เปิดเผยรายงาน 6 ฉบับ ที่ระบุถึงพฤติกรรมที่คาดไม่ถึงหรือน่าห่วงกังวล ในโมเดลปัญญาประดิษฐ์ หรือ เอไอ ท่ามกลางกระแสถกเถียงเรื่องความปลอดภัยของเอไอ ที่กำลังเข้มข้นขึ้นเรื่อยๆ
โดยเมื่อวันที่ 16 กันยายน บริษัท โอเพ่นเอไอ ซึ่งเป็นบริษัทเอไอ เจ้าของแชตจีพี อันโด่งดัง ระบุว่า จะนำกรอบการทำงานใหม่มาใช้เพื่อติดตาม ตรวจสอบ และเปิดเผยกรณีที่มีโมเดลเอไอทำงานไม่สอดคล้องกับเป้าหมาย หรือกฎเกณฑ์ที่วางไว้ เช่น พฤติกรรมที่โมเดลเริ่มดำเนินการเองโดยไม่ได้รับอนุญาต การประสานงานกับโมเดลอื่นๆ หรือการพยายามหลบเลี่ยงการกำกับดูแล
การประกาศล่าสุดของโอเพ่นเอไอ มีขึ้นในขณะที่บรรดาผู้บริหารของบริษัทเอไอชั้นนำของสหรัฐ รวมถึง โอเพ่นเอไอ และแอนโทรปิก ต่างออกมาเรียกร้องให้ชะลอการพัฒนาเทคโนโลยีนี้ลง เนื่องจากความกังวลด้านความปลอดภัย
โดยหนึ่งในกรณีใหม่ ที่เพิ่งถูกรายงานออกมา โดยโอเพ่นไอไอ คือ โมเดลวิจัยที่ยังไม่ได้เปิดตัว ได้มีการแทรก “คำสั่งในลักษณะเจลเบรก” ลงในบันทึกของตัวเอง เพื่อเพิกเฉยต่อข้อจำกัดปกติและสั่งให้ตัวเอง “หลุดพ้นจากบทบาทและตัวตนที่ผูกมัดแชตบอตอื่นๆไว้”
ส่วนอีกกรณีหนึ่ง คือ เอไอ เอเจนต์ ได้อัพโหลดไฟล์ขึ้นอินเตอร์เน็ตเพื่อให้ได้มาซึ่งการอ้างอิงแหล่งข้อมูลผ่านบราวเซอร์ โดยไม่ได้ขออนุญาตจากผู้ใช้งานก่อน
โอเพ่นเอไอ ระบุว่า รายงานทั้ง 6 ฉบับนี้ ถูกค้นพบระหว่างขั้นตอนการฝึกสอนหรือการประเมินผลในช่วงหลายเดือนที่ผ่านมา และว่า “ในขณะที่ระบบเอไอมีความก้าวหน้าและถูกนำไปใช้งานอย่างแพร่หลายมากขึ้น เราจำเป็นต้องสร้างฉันทามติที่กว้างขวาง และมีข้อมูลครบถ้วนเกี่ยวกับความคืบหน้าของการวิจัยด้านการปรับจูนเอไอให้ทำงานสอดคล้องกับเป้าหมาย”
โอเพ่นเอไอ ระบุด้วยว่า การตัดสินใจเกี่ยวกับทิศทางการพัฒนาเอไอในช่วงหลายเดือนและหลายปีข้างหน้า จำเป็นต้องอาศัยหลักฐานที่บุคคลภายนอกบริษัท ผู้พัฒนาโมเดลเอไอ ระดับแนวหน้า สามารถตรวจสอบด้วยตนเอง”
ข่าวระบุว่า พฤติกรรมที่น่ากังวลล่าสุดของเอไอ ที่เพิ่งถูกเผยแพร่นี้ ทยอยมีรายงานมาอย่างต่อเนื่อง หลังจากที่เมื่อเดือนกรกฎาคมที่ผ่านมา โอเพ่นเอไอ ได้เปิดเผยว่า ระบบเอไอของตนที่ทำงานนอกเหนือการควบคุมได้เจาะระบบของ “ฮักกิ้ง เฟซ” ซึ่งเป็นสตาร์ทอัพด้าน เอไอ ส่วนแอนโทรปิก ก็ระบุในเดือนเดียวกันว่า โมเดลเอไอของตน ได้เจาะระบบขององค์กร 3 แห่ง ระหว่างการทดสอบเช่นกัน
เหลียน เจีย ซู หัวหน้านักวิเคราะห์จากกลุ่มวิจัยและให้คำปรึกษาด้านเทคโนโลยี ของ ออมเดีย กล่าวว่า เอไอ เอเจนต์ กำลังฉลาดขึ้นและมีความมุ่งมั่นมากขึ้นที่จะจัดการกับงานที่ซับซ้อน ผ่านวิธีการต่างๆ เช่น การรร่วมมือกันระหว่างเอเจนต์ การแบ่งปันความรู้ การหลอกลวง และการปกปิดข้อมูล ซึ่งสิ่งเหล่านี้ทำให้การกำกับดูแลและควบคุมเอไอด้วยวิธีการรักษาความปลอดภัยแบบเดิมทำได้ยากยิ่งขึ้น
ขณะเดียวกัน กรอบการทำงานใหม่ของโอเพ่นเอไอ ในการติดตามและเปิดเผยข้อมูลนี้ อาจจะช่วยผลักดันให้ผู้พัฒนาเอไอรายอื่น หันมาใช้แนวทางปฏิบัติที่คล้ายคลึงกัน อย่างไรก็ตาม กระบวนการดังกล่าวยังคงเป็นเรื่องภายในและเป็นความสมัครใจ แต่ก็นับเป็นก้าวที่มาถูกทางแล้ว
ขณะที่รอยเตอร์ รายงานว่า ข้อมูลจากนักวิจัยอิสระ พบว่า เอไอ เอเจนต์ ที่ทำงานนอกเหนือการควบคุมของโอเพ่นเอไอ ได้เข้ายึดบัญชีผู้ใช้ ฮักกิ้ง เฟซ และตรวจสอบหาช่องโหว่ของเว็บไซต์มาตั้งแต่เดือนพฤษภาคม หรือเกือบ 2 เดือนก่อนหน้าการที่เอไอเจาะระบบคลังข้อมูลโอเพ่นซอร์สแห่งนี้ ในเดือนกรกฎาคม และกลายเป็นข่าวใหญ่ที่ได้รับความสนใจไปทั่วโลก
โจนาส ไวเดอร์แมนน์-โมลเลอร์ นักวิจัยอิสระ เปิดเผยกับรอยเตอร์ว่า เขาค้นพบกิจกรรมดังกล่าวเมื่อสัปดาห์ที่แล้ว โดยพบหลักฐานว่า เอเจนต์ ของโอเพ่นเอไอ ได้เจาะเข้าถึงบัญชีผู้ใช้ ฮักกิ้ง เฟซ จำนวน 2 บัญชี และใช้บัญชีเหล่านั้นส่งไฟล์ที่มีรูปแบบผิดปกติไปยังเซิร์ฟเวอร์ของบริษัท ตั้งแต่วันที่ 13 พฤษภาคม
เขาและนักวิจัยคนอื่นๆ ที่ตรวจสอบหลักฐาน ระบุว่า พฤติกรรมดังกล่าวมีลักษณะคล้ายกับความพยายามในการทำแผนผัง หรือทดสอบส่วนต่างๆของเครือข่ายฮักกิ้ง เฟซ เพื่อหาช่องทางแทรกซึม แม้ว่าพวกเขาจะเน้นย้ำว่า ไม่มีหลักฐานยืนยันว่า ความพยายามดังกล่าว ส่งผลให้เกิดการเจาะระบบได้สำเร็จจริงก็ตาม
ทั้งนี้ นักวิจัย และโอเพ่นเอไอ ต่างระบุว่า ไม่พบหลักฐานที่บ่งชี้ว่า การตรวจสอบหาช่องโหว่ในช่วงแรกนี้ มีความเกี่ยวข้องกับเหตุการณ์ที่เกิดขึ้นในเดือนกรกฎาคมแต่อย่างใด
ดรูว์ พูแซทเทอรี โฆษกของโอเพ่นเอไอ บอกว่า บริษัทได้เปิดเผยข้อมูลเกี่ยวกับเหตุการณ์เมื่อวันที่ 13 พฤษภาคม ไว้ในรายงานสรุปเหตุการณ์แล้ว และได้แจ้งให้ ฮักกิ้ง เฟซ ทราบเป็นการส่วนตัวเกี่ยวกับกิจกรรมที่ ไวเดอร์แมนน์-โมลเลอร์ ตรวจพบ พร้อมทั้งยืนยันว่า บริษัท มุ่งมั่นที่จะมีความโปร่งใสในประเด็นเหล่านี้ และแบ่งปันสิ่งที่ได้เรียนรู้ระหว่างที่กระบวนการตรวจสอบยังคงดำเนินต่อไป
ไวเดอร์แมนน์-โมลเลอร์ นักวิจัยวัย 27 ปี ซึ่งอยู่ที่เมืองบีเลเฟลด์ ประเทศเยอรมนี กล่าวว่า การที่โอเพ่นเอไอ ตรวจไม่พบความพยายามเจาะระบบเมื่อวันที่ 13 พฤษภาคมในขณะนั้น ถือเป็นโอกาสที่พลาดไปในการป้องกันปฏิบัติการแฮกระบบที่ตามมา ซึ่งเหตุการณ์ดังกล่าวได้ก่อให้เกิดการตื่นตัวและถกเถียงทั่วโลก เกี่ยวกับอิทธิพลและอำนาจของเอไอ
“ลองนึกภาพดูว่า หากพวกเขาตรวจพบพฤติกรรมนี้ตั้งแต่เดือนพฤษภาคม มันอาจจะช่วยป้องกันเหตุการณ์ที่จะเกิดขึ้นในภายหลัง ซึ่งมีความรุนแรงและความเสียหายใหญ่กว่ามากได้”
ทั้งนี้ ผู้เชี่ยวชาญภายนอก 2 คน ที่ได้ตรวจสอบข้อมูลที่ไวเดอร์แมนน์-โมลเลอร์ ค้นพบ ระบุว่า ข้อมูลดังกล่าวสอดคล้องกับกิจกรรมที่เคยมีการเชื่อมโยังกับ เอไอ เอเจนต์ ของโอเพ่นเอไอ มาก่อนหน้านี้
โดย ทอม เฮเกล นักวิจัยอาวุโสด้านภัยคุกคาม จาก เซนทิเนลวัน กล่าวว่า การยึดบัญชีผู้ใช้และการพยายามเจาะระบบในเวลาต่อมานั้น มีลักษณะตรงกับพฤติกรรมที่ทราบกันดีของ เอไอ เอเจนต์ เหล่านี้ “อย่างแม่นยำที่สุด” และว่า ห้องปฏิบัติการเอไอชั้นนำ ควรเปิดเผยข้อมูลเพิ่มเติมเกี่ยวกับเหตุการณ์ต่างๆ เมื่อ เอไอ เอเจนต์ มีการโต้ตอบหรือส่งผลกระทบต่อระบบของบุคคลที่สาม
ซิดนีย์ วอน อาร์กซ์ จาก ไนติงเกล คอลเลกทิฟ ซึ่งเป็นกลุ่มที่ทำงานด้านความปลอดภัยของเอไอ เห็นด้วยกับการระบุที่มาของเหตุการณ์ดังกล่าวเช่นกัน โดยบอกว่า การแฮกระบบครั้งนั้นถือเป็นสัญญาณเตือนที่ชัดเจน ซึ่งน่าจะช่วยป้องกันการเจาะระบบที่เกิดขึ้นในเดือนกรกฎาคมได้
ไวเดอร์แมนน์-โมลเลอร์ บอกว่า ข้อมูลที่ค้นพบล่าสุดนี้ ยิ่งตอกย้ำข้อเรียกร้องให้มีการชะลอการพัฒนาเอไอขั้นสูงเป็นการชั่วคราว โดยเขาบอกว่า “การหยุดพักอาจส่งผลดีต่อโลก เพื่อให้มาตรการด้านความปลอดภัยสามารถพัฒนาตามได้ทัน”
