ภาครัฐใช้ AI ได้แค่ไหน 6 หลักสำคัญที่ต้องคำนึงถึง

ปัญญาประดิษฐ์ หรือ AI กำลังถูกนำมาใช้ในงานภาครัฐอย่างกว้างขวางขึ้น ตั้งแต่การวิเคราะห์ข้อมูล การตรวจจับความผิดปกติ การคัดกรองผู้มีสิทธิได้รับสวัสดิการ การประเมินความเสี่ยง การจัดลำดับความสำคัญของงาน ไปจนถึงการช่วยเจ้าหน้าที่พิจารณาคำขอ ออกใบอนุญาต หรือบังคับใช้กฎหมาย

ในด้านหนึ่ง AI อาจช่วยให้รัฐทำงานได้รวดเร็ว แม่นยำ และลดภาระของเจ้าหน้าที่ โดยเฉพาะในกรณีที่หน่วยงานต้องจัดการข้อมูลจำนวนมากหรือให้บริการประชาชนเป็นจำนวนมาก แต่ในอีกด้านหนึ่ง การนำ AI มาใช้ในกิจกรรมของรัฐมิใช่เพียงเรื่องของการปรับปรุงประสิทธิภาพทางเทคนิค หากยังเป็นเรื่องของ “การใช้อำนาจรัฐ” ซึ่งเกี่ยวข้องโดยตรงกับสิทธิ เสรีภาพ และสถานะทางกฎหมายของประชาชน

คำถามสำคัญจึงไม่ใช่เพียงว่า AI สามารถช่วยรัฐทำอะไรได้บ้าง แต่คือรัฐควรนำ AI มาใช้ภายใต้เงื่อนไขใด และจะทำอย่างไรให้เทคโนโลยีดังกล่าวไม่กลายเป็นอำนาจที่ประชาชนมองไม่เห็น ตรวจสอบไม่ได้ และโต้แย้งไม่ได้

ตามหลักกฎหมายมหาชน หน่วยงานของรัฐจะใช้อำนาจกระทบต่อประชาชนได้ต่อเมื่อมีกฎหมายให้อำนาจ และต้องใช้อำนาจภายในขอบเขตที่กฎหมายกำหนด เจ้าหน้าที่ไม่อาจอ้างความสะดวก ประสิทธิภาพ หรือความทันสมัยเป็นเหตุในการใช้อำนาจนอกเหนือจากกฎหมาย

การนำ AI มาใช้จึงไม่ได้ทำให้หลักการดังกล่าวเปลี่ยนแปลงไป แม้ระบบคอมพิวเตอร์จะเป็นผู้ประมวลผลข้อมูล ให้คะแนนความเสี่ยง หรือเสนอผลการตัดสินใจ แต่การกระทำดังกล่าวยังคงเป็นส่วนหนึ่งของการดำเนินงานของรัฐ หน่วยงานไม่อาจปฏิเสธความรับผิดโดยอ้างว่าเป็น “ผลที่ระบบคำนวณออกมา”

ในทางกฎหมาย AI จึงไม่ใช่เจ้าหน้าที่ของรัฐ ไม่ใช่ผู้ทรงอำนาจตามกฎหมาย และไม่ควรเป็นผู้ตัดสินใจขั้นสุดท้ายในเรื่องที่มีผลกระทบอย่างสำคัญต่อสิทธิของบุคคล ผู้มีหน้าที่รับผิดชอบยังคงต้องเป็นหน่วยงานและเจ้าหน้าที่ผู้ใช้อำนาจนั้น

อย่างไรก็ตาม สิ่งที่ AI เปลี่ยนแปลงคือกระบวนการก่อนการตัดสินใจ เจ้าหน้าที่อาจพึ่งพาผลวิเคราะห์ของระบบมากขึ้น ใช้คะแนนหรือข้อเสนอแนะจาก AI เป็นฐานในการออกคำสั่ง หรือเลือกตรวจสอบประชาชนบางกลุ่มเป็นพิเศษ หากไม่กำหนดหลักเกณฑ์ควบคุมให้ชัดเจน AI อาจมีอิทธิพลต่อการใช้อำนาจมากกว่าที่ปรากฏในเอกสารหรือคำสั่งทางปกครอง

กล่าวอีกนัยหนึ่ง แม้ AI จะไม่ได้ลงนามในคำสั่ง แต่ AI อาจเป็นผู้กำหนดว่าใครจะถูกตรวจสอบ ใครจะได้รับสิทธิ ใครจะถูกมองว่าเป็นความเสี่ยง และใครจะต้องพิสูจน์ตนเองมากกว่าคนอื่น

หลักสำคัญประการหนึ่งของกฎหมายมหาชนคือ เมื่อรัฐใช้อำนาจกระทบต่อประชาชน รัฐต้องสามารถอธิบายเหตุผลของการตัดสินใจได้ ประชาชนต้องทราบว่าตนได้รับหรือไม่ได้รับสิทธิ เพราะเหตุใด ถูกปฏิเสธคำขอเพราะเงื่อนไขใด หรือถูกตรวจสอบจากข้อมูลประเภทใด

ปัญหาเกิดขึ้นเมื่อ AI บางระบบทำงานในลักษณะ “กล่องดำ” กล่าวคือ ระบบสามารถแสดงผลลัพธ์ออกมาได้ แต่เจ้าหน้าที่หรือผู้ได้รับผลกระทบไม่สามารถอธิบายได้อย่างชัดเจนว่าระบบใช้เหตุผลอย่างไร

สมมติว่าระบบ AI ประเมินว่าบุคคลหนึ่งมีความเสี่ยงสูงต่อการกระทำผิด หรือไม่เข้าเกณฑ์ได้รับความช่วยเหลือจากรัฐ หากหน่วยงานไม่สามารถอธิบายได้ว่าการประเมินดังกล่าวเกิดจากข้อมูลใด ใช้เกณฑ์ใด และข้อมูลนั้นถูกต้องหรือไม่ บุคคลนั้นย่อมไม่สามารถโต้แย้งหรือแก้ไขข้อผิดพลาดได้อย่างมีประสิทธิภาพ

การตัดสินใจเช่นนี้อาจขัดกับหลักความโปร่งใส หลักการให้เหตุผล และสิทธิในการโต้แย้งการใช้อำนาจรัฐ แม้ระบบจะมีความแม่นยำโดยเฉลี่ยสูง แต่ความแม่นยำทางสถิติไม่อาจทดแทนความเป็นธรรมในแต่ละกรณีได้

รัฐจึงไม่ควรใช้ AI ที่ไม่สามารถอธิบายได้ในเรื่องที่ส่งผลกระทบอย่างร้ายแรงต่อสิทธิ เสรีภาพ หรือสถานะของประชาชน โดยเฉพาะการปฏิเสธสิทธิ การลงโทษ การขึ้นบัญชีเฝ้าระวัง หรือการจำแนกบุคคลว่าเป็นผู้มีความเสี่ยง

AI เรียนรู้จากข้อมูลที่ถูกนำเข้าไปในระบบ หากข้อมูลในอดีตมีความไม่เท่าเทียม มีอคติ หรือสะท้อนการปฏิบัติที่ไม่เป็นธรรม ระบบก็อาจเรียนรู้และผลิตซ้ำความไม่เท่าเทียมนั้น

ตัวอย่างเช่น หากข้อมูลการตรวจสอบในอดีตมุ่งไปยังประชาชนบางพื้นที่มากกว่าพื้นที่อื่น ระบบอาจสรุปว่าพื้นที่ดังกล่าวมีความเสี่ยงสูง และเสนอให้รัฐตรวจสอบพื้นที่นั้นเพิ่มขึ้นอีก ผลลัพธ์คือประชาชนกลุ่มเดิมจะถูกตรวจสอบมากขึ้น ข้อมูลการกระทำผิดก็จะถูกพบมากขึ้น และข้อมูลชุดใหม่ก็จะยิ่งยืนยันสมมติฐานเดิมของระบบ

วงจรเช่นนี้อาจทำให้ความลำเอียงทางสถิติกลายเป็นการเลือกปฏิบัติในการใช้อำนาจรัฐได้ โดยไม่มีเจ้าหน้าที่คนใดตั้งใจเลือกปฏิบัติโดยตรง

ปัญหาจึงไม่ได้อยู่เพียงที่ตัวโปรแกรม แต่อยู่ที่การเลือกข้อมูล การกำหนดตัวแปร การออกแบบวัตถุประสงค์ และการตัดสินใจว่าจะให้ระบบให้ความสำคัญกับสิ่งใด หากหน่วยงานต้องการตรวจจับความผิดให้ได้มากที่สุด ระบบอาจเสนอวิธีการที่กระทบสิทธิอย่างรุนแรง หากหน่วยงานต้องการลดต้นทุน ระบบอาจคัดกรองคนออกจากสวัสดิการโดยใช้เกณฑ์ที่เข้มงวดเกินไป

การใช้ AI ในภาครัฐจึงต้องผ่านการประเมินความเสี่ยงด้านสิทธิและการเลือกปฏิบัติ ไม่ใช่ประเมินเฉพาะความแม่นยำหรือความคุ้มค่าทางเศรษฐกิจ

หน่วยงานจำนวนมากอาจระบุว่า AI มีหน้าที่เพียง “ช่วยตัดสินใจ” ส่วนการตัดสินใจขั้นสุดท้ายยังเป็นของเจ้าหน้าที่ แต่ในทางปฏิบัติ เจ้าหน้าที่อาจไม่มีเวลา ไม่มีความรู้ทางเทคนิค หรือไม่มีข้อมูลเพียงพอที่จะตรวจสอบผลของระบบ

เมื่อระบบระบุว่าบุคคลหนึ่งมีความเสี่ยงสูง เจ้าหน้าที่อาจเลือกทำตามคำแนะนำของระบบ เพราะเชื่อว่าคอมพิวเตอร์มีความแม่นยำ หรือเพราะเกรงว่าจะต้องรับผิดหากตัดสินใจแตกต่างจากระบบ ภาวะเช่นนี้เรียกได้ว่าเป็นการพึ่งพาการตัดสินใจอัตโนมัติมากเกินไป

การมีมนุษย์อยู่ในกระบวนการจึงไม่เพียงพอ หากมนุษย์ไม่มีอำนาจ ความสามารถ หรือแรงจูงใจที่จะตรวจสอบและปฏิเสธผลของ AI

หน่วยงานต้องกำหนดให้ชัดว่า เจ้าหน้าที่มีหน้าที่ตรวจสอบอะไร สามารถตัดสินใจแตกต่างจากระบบได้หรือไม่ และต้องบันทึกเหตุผลอย่างไรเมื่อยอมรับหรือปฏิเสธคำแนะนำของ AI มิฉะนั้น การลงชื่อของเจ้าหน้าที่อาจเป็นเพียงพิธีการที่ปกปิดการตัดสินใจของระบบไว้เบื้องหลัง

เมื่อ AI ถูกนำมาใช้ในกระบวนการที่ส่งผลต่อประชาชน บุคคลที่ได้รับผลกระทบควรมีสิทธิได้รับข้อมูลอย่างน้อยว่า หน่วยงานใช้ AI ในขั้นตอนใด ระบบใช้ข้อมูลประเภทใด ผลของระบบมีน้ำหนักต่อการตัดสินใจเพียงใด และประชาชนจะขอให้มีการทบทวนโดยเจ้าหน้าที่ได้อย่างไร

สิทธิในการรับรู้มิได้หมายความว่ารัฐต้องเปิดเผยรหัสคอมพิวเตอร์ทั้งหมด หรือเปิดเผยข้อมูลที่กระทบต่อความมั่นคงและความลับทางการค้าโดยไม่มีข้อจำกัด แต่รัฐต้องเปิดเผยข้อมูลมากพอให้ประชาชนเข้าใจเหตุผลและสามารถใช้สิทธิโต้แย้งได้จริง

หากระบบใช้ข้อมูลผิด ระบุตัวบุคคลผิด หรือให้คะแนนโดยอาศัยตัวแปรที่ไม่เหมาะสม ประชาชนต้องสามารถขอแก้ไขข้อมูล ขอทบทวนผลการประเมิน และเสนอข้อเท็จจริงของตนเองได้

กระบวนการอุทธรณ์หรือร้องเรียนต้องไม่เป็นเพียงการส่งเรื่องกลับไปให้ระบบเดิมประเมินซ้ำ แต่ต้องมีบุคคลที่มีอำนาจและความรู้เพียงพอเข้ามาตรวจสอบอย่างแท้จริง

การจัดหาและพัฒนาระบบ AI ภาครัฐมักเกี่ยวข้องกับหลายฝ่าย ได้แก่ หน่วยงานของรัฐ เจ้าหน้าที่ บริษัทผู้พัฒนา ผู้ให้บริการระบบคลาวด์ และผู้จัดเตรียมข้อมูล ความซับซ้อนดังกล่าวอาจทำให้แต่ละฝ่ายผลักความรับผิดไปยังอีกฝ่ายหนึ่ง

หน่วยงานอาจอ้างว่าไม่ทราบวิธีการทำงานของระบบเพราะเป็นเทคโนโลยีของเอกชน ขณะที่บริษัทผู้พัฒนาอาจอ้างว่าหน่วยงานเป็นผู้กำหนดวัตถุประสงค์และนำผลลัพธ์ไปใช้
แต่ในมุมของประชาชน ผู้ใช้อำนาจยังคงเป็นรัฐ การจ้างเอกชนพัฒนาระบบไม่ควรทำให้มาตรฐานความรับผิดของรัฐลดลง หน่วยงานต้องรับผิดชอบต่อการเลือกใช้ระบบ การตรวจสอบคุณภาพข้อมูล การกำหนดขอบเขตการใช้งาน และผลที่เกิดจากการนำระบบไปใช้

สัญญาจัดซื้อจัดจ้างเทคโนโลยีจึงต้องไม่พิจารณาเพียงราคาและประสิทธิภาพ แต่ต้องกำหนดเรื่องการเข้าถึงข้อมูล การตรวจสอบระบบ การเปิดเผยข้อจำกัด ความปลอดภัย การแก้ไขข้อผิดพลาด และความรับผิดเมื่อเกิดความเสียหายด้วย

รัฐไม่ควรจัดซื้อระบบที่ตนเองไม่สามารถตรวจสอบ ไม่สามารถอธิบาย และไม่สามารถควบคุมได้ เพราะนั่นเท่ากับรัฐยอมให้เอกชนเข้ามากำหนดวิธีใช้อำนาจสาธารณะโดยปราศจากความรับผิดที่เหมาะสม

การใช้ AI ในภาครัฐควรตั้งอยู่บนหลักสำคัญอย่างน้อยหกประการ
ประการแรก ต้องมีฐานอำนาจตามกฎหมาย หน่วยงานต้องตรวจสอบว่ากฎหมายให้อำนาจเก็บ ใช้ เชื่อมโยง และประมวลผลข้อมูลเพื่อวัตถุประสงค์ดังกล่าวหรือไม่ การมีข้อมูลอยู่ในมือไม่ได้หมายความว่ารัฐจะนำข้อมูลไปใช้ทำอะไรก็ได้

ประการที่สอง ต้องใช้ AI อย่างได้สัดส่วน หน่วยงานต้องพิจารณาว่าวัตถุประสงค์ที่ต้องการบรรลุมีความสำคัญเพียงใด มีวิธีการอื่นที่กระทบสิทธิน้อยกว่าหรือไม่ และประโยชน์ที่ได้คุ้มค่ากับผลกระทบต่อประชาชนหรือไม่

ประการที่สาม ต้องมีความโปร่งใสและอธิบายได้ ประชาชนควรทราบเมื่อ AI มีบทบาทสำคัญต่อการตัดสินใจ และต้องได้รับเหตุผลที่สามารถเข้าใจและโต้แย้งได้

ประการที่สี่ ต้องไม่เลือกปฏิบัติ หน่วยงานต้องตรวจสอบข้อมูลและผลลัพธ์ของระบบอย่างต่อเนื่อง เพื่อดูว่าระบบสร้างผลกระทบที่แตกต่างอย่างไม่เป็นธรรมต่อบุคคลหรือกลุ่มบุคคลใดหรือไม่

ประการที่ห้า ต้องมีมนุษย์รับผิดชอบ การตัดสินใจที่กระทบสิทธิอย่างมีนัยสำคัญต้องอยู่ภายใต้การควบคุมของเจ้าหน้าที่ซึ่งมีอำนาจตรวจสอบ เปลี่ยนแปลง หรือปฏิเสธผลของระบบได้จริง

ประการที่หก ต้องมีกลไกเยียวยา บุคคลที่ได้รับผลกระทบต้องสามารถเข้าถึงข้อมูล ขอแก้ไขข้อผิดพลาด อุทธรณ์คำตัดสิน และเรียกร้องความรับผิดเมื่อเกิดความเสียหาย

AI มีศักยภาพช่วยให้ภาครัฐให้บริการประชาชนได้ดีขึ้น ลดความล่าช้า และใช้ทรัพยากรได้อย่างมีประสิทธิภาพมากขึ้น จึงไม่ควรปฏิเสธการใช้เทคโนโลยีเพียงเพราะเกรงว่าจะเกิดความเสี่ยง

อย่างไรก็ตาม การมอง AI ว่าเป็นเพียงเครื่องมือที่เป็นกลางก็อาจเป็นความเข้าใจที่อันตราย เพราะทุกระบบมีวัตถุประสงค์ มีสมมติฐาน และมีการเลือกว่าจะให้ความสำคัญกับข้อมูลใด การออกแบบ AI จึงเป็นการออกแบบวิธีมองประชาชนและวิธีใช้อำนาจของรัฐไปพร้อมกัน

รัฐที่นำ AI มาใช้จึงต้องมีภาระมากกว่าการพิสูจน์ว่าระบบทำงานได้ รัฐต้องพิสูจน์ด้วยว่าระบบนั้นชอบด้วยกฎหมาย เป็นธรรม อธิบายได้ และไม่ทำให้ประชาชนสูญเสียสิทธิในการตรวจสอบการใช้อำนาจ

ท้ายที่สุด ปัญหาสำคัญอาจไม่ใช่ว่า AI จะเข้ามาแทนที่เจ้าหน้าที่ของรัฐหรือไม่ แต่คือ AI จะทำให้การใช้อำนาจรัฐอยู่ห่างไกลจากการตรวจสอบของประชาชนมากขึ้นเพียงใด
เทคโนโลยีที่ดีไม่ควรทำให้รัฐใช้อำนาจได้ง่ายขึ้นเพียงอย่างเดียว แต่ต้องทำให้การใช้อำนาจนั้นโปร่งใส มีเหตุผล และรับผิดชอบมากขึ้นด้วย