ระบบปัญญาประดิษฐ์ ซึ่งพัฒนาโดยนักวิจัยจากมหาวิทยาลัย Stanford และบริษัท Google ถูกออกแบบมาเพื่อปรับภาพถ่ายดาวเทียมให้กลายเป็นแผนที่สำหรับ Street Maps
อย่างไรก็ตาม ระบบ Machine Learning ตัวนี้เพิ่งถูกจับได้ว่าขี้โกง เพราะมันซ่อนข้อมูลบางอย่างจากผู้พัฒนา
เป้าหมายของงานวิจัยและพัฒนาชิ้นนี้ คือ การปรับปรุงคุณภาพ Street Maps ที่แปลงจากภาพถ่ายดาวเทียม โดยใช้ระบบปัญญาประดิษฐ์ช่วยเหลือ อย่างที่ผู้เขียนกล่าวข้างต้นไป ดังนั้น นักวิจัยจึงสร้างและพัฒนาสิ่งที่เรียกว่า “CycleGAN” โครงข่ายประสาทเทียมสำหรับประมวลข้อมูลสารสนเทศ (Neural Network) โดยหน้าที่หลักของ CycleGAN คือ การประมวลผลและแปลงข้อมูลภาพถ่าย
ในช่วงต้นของการทดสอบและการพัฒนา ระบบปัญญาประดิษฐ์ตัวนี้ทำงานได้อย่างมีประสิทธิภาพ แต่พอเวลาผ่านไปไม่นาน ผู้พัฒนาพบว่ารายละเอียดหลายอย่างหายไปในเครือข่าย Street Maps หลัง CycleGAN ประมวลผลงานเสร็จ
ถึงแม้ว่าการตรวจสอบและทำความเข้าใจโครงสร้างภายในของโครงข่ายประสาทเทียมเป็นเรื่องที่ยาก แต่นักพัฒนากลุ่มนี้ก็สามารถจับความผิดปกติในผลงานของระบบปัญญาประดิษฐ์ดังกล่าวได้
การตรวจสอบด้วยตาเปล่าอาจทำได้ยาก แต่ถ้าหากรูปถูกเน้นสีและเพิ่ม Noise ขึ้น เราจะเห็นรายละเอียดที่หายไปบนแผนที่ที่ระบบ Machine Learning นี้สร้างขึ้นมา
อย่างไรก็ตาม คอมพิวเตอร์ถูกออกแบบมาให้ทำตามคำสั่งของผู้กำหนดและออกแบบระบบ ดังนั้น ข้อบกพร่องนี้จึงเป็นความผิดของผู้พัฒนามากกว่า ทุกคนที่อ่านข่าวนี้อย่าเพิ่งตกอกตกใจกันไป
ผู้ที่สนใจและอยากอ่านงานวิจัยฉบับเต็มสามารเข้าถึงได้ ที่นี่ ครับ ซึ่งผลงานวิจัยชิ้นนี้เคยถูกนำเสนอในงานประชุม Neural Information Processing Systems ในปี 2017 ที่ผ่านมา โดยงานเขียนมีชื่อว่า “CycleGAN, a Master of Steganography“
