OpenAI พัฒนาเครื่องมือตรวจจับงานที่มาจาก ChatGPT ! แต่อาจไม่ถูกนำมาใช้งาน

OpenAI ได้พัฒนาระบบสำหรับการใส่ลายน้ำ หรือ Watermark ลงในข้อความที่สร้างโดย ChatGPT และอันที่จริงแล้วเครื่องมือตรวจจับลายน้ำตัวนี้พร้อมใช้งานมานานประมาณกว่าหนึ่งปีได้แล้ว แต่บริษัทยังคงหารือภายในเกี่ยวกับการเปิดตัวเครื่องมือนี้ ว่าในแง่หนึ่งมันดูเหมือนจะเป็นสิ่งที่ถูกต้อง แต่ในอีกด้านหนึ่งก็อาจส่งผลเสียต่อผลกำไรของบริษัทได้เลยทีเดียว

ในส่วนของเครื่องมือตรวจจับลายน้ำนั้น OpenAI อธิบายไว้ว่าเป็นการวิเคราะห์จากวิธีที่ โมเดลใช้คาดการณ์คำ และวลีที่เป็นไปได้มากที่สุดที่จะเขียนตามกันมาบ่าย ๆ ซึ่งจะเป็นการสร้างรูปแบบ (Pattern) ที่สามารถตรวจจับได้

การใส่ลายน้ำก็เหมือนกับการให้ AI มีลายมือที่เป็นเอกลักษณ์มากขึ้น โดยการปรับเปลี่ยนวิธีการเลือกคำของ AI ให้เป็นรูปแบบเฉพาะตัว เช่น อาจจะทำให้ AI ชอบเลือกใช้คำที่ไม่ค่อยมีใครใช้ หรือสร้างรูปแบบการเรียงคำที่ซับซ้อนขึ้นหากพบว่ามีรูปแบบที่ตรงกับลายมือของ AI ตัวนี้ ก็จะสรุปได้ว่าข้อความนั้นถูกสร้างขึ้นโดย AI นั่นเอง

ซึ่งการนำเสนอวิธีใด ๆ ในการตรวจจับเนื้อหาที่เขียนโดย AI นั้นแน่นอนว่าอาจเป็นผลดีต่ออาจารย์ ที่ไม่สนับสนุนให้นักเรียนส่งงานที่ใช้ AI เขียน ในรายงานของ The Wall Street Journal ระบุว่า บริษัทพบว่าการใส่ลายน้ำไม่ได้ส่งผลกระทบต่อประสิทธิภาพของแชทบอท และจากการสำรวจพบว่าผู้คนทั่วโลกสนับสนุนแนวคิดเกี่ยวกับเครื่องมือตรวจจับ AI ในอัตราส่วน 4 ต่อ 1 หมายความว่าคนส่วนใหญ่เห็นด้วยกับเครื่องมือนี้

ภาพจาก : https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/

OpenAI ได้ยืนยันว่าบริษัทกำลังปฏิบัติงานเกี่ยวกับการใส่ลายน้ำข้อความในโพสต์อัปเดตของ OpenAI เมื่อวันที่ 4 สิงหาคม พ.ศ.2567 (ค.ศ.2024) ที่ผ่านมา ในโพสต์บริษัทกล่าวว่าวิธีการของตนมีความแม่นยำสูง "มีประสิทธิภาพ 99.9%" และมีความต้านทานต่อการดัดแปลง เช่น การเขียนใหม่ แต่บริษัทยังคงกังวลว่าเทคนิคอื่น ๆ เช่น การเขียนใหม่ด้วยโมเดลอื่น อาจทำให้หลีกเลี่ยงการตรวจจับได้ 

และดูเหมือนว่า OpenAI ยังกังวลว่าการใช้ลายน้ำอาจทำให้ผู้ใช้ ChatGPT รู้สึกไม่พอใจ จากผลสำรวจพบว่าประมาณ 30% ของผู้ตอบแบบสอบถามบอกกับบริษัทว่าพวกเขาจะใช้ซอฟต์แวร์น้อยลงหากมีการนำลายน้ำไปใช้ อีกทั้ง ยังกังวลว่าการใส่ลายน้ำอาจทำให้เกิดการตีตราว่าเนื้อหาที่สร้างโดย AI นั้น "ด้อยกว่า" หรือ "ไม่ดีเท่า" เนื้อหาที่เขียนโดยมนุษย์ โดยเฉพาะอย่างยิ่งสำหรับผู้ที่ไม่ใช่เจ้าของภาษาซึ่งอาจนำไปสู่การเลือกปฏิบัติหรือการดูถูกได้

OpenAI กำลังพิจารณาถึงผลกระทบที่อาจเกิดขึ้นจากการใส่ลายน้ำอย่างรอบคอบ และยังคงมองหาวิธีการที่เหมาะสมที่อาจจะไม่ก่อให้เกิดความขัดแย้งมากนัก เช่น การฝังข้อมูลเมตา (Metadata) ซึ่งเป็นข้อมูลที่ซ่อนอยู่ในไฟล์ แต่ก็ยังคงอยู่ในขั้นตอนเริ่มต้นพัฒนาเพียงเท่านั้นเพียง