ความรับผิดจากอคติเชิงอัลกอริทึมภายใต้กฎหมายของเนเธอร์แลนด์และสหภาพยุโรป

ความรับผิดจากอคติทางอัลกอริทึม คือความรับผิดชอบทางกฎหมายที่องค์กรต้องแบกรับเมื่อระบบอัตโนมัติก่อให้เกิดผลลัพธ์ที่เลือกปฏิบัติ ในประเทศเนเธอร์แลนด์ ความรับผิดชอบนั้นตั้งอยู่บนพื้นฐานสามประการที่ใช้บังคับอยู่แล้วในปัจจุบัน ได้แก่ บทบัญญัติการละเมิดทั่วไปของมาตรา 6:162 แห่งประมวลกฎหมายแพ่งของเนเธอร์แลนด์ กฎหมายว่าด้วยการปฏิบัติอย่างเท่าเทียมกันซึ่งกำกับดูแลโดยสถาบันสิทธิมนุษยชนแห่งเนเธอร์แลนด์ และกฎ GDPR ว่าด้วยความเป็นธรรมและการตัดสินใจโดยอัตโนมัติ พระราชบัญญัติ AI ของสหภาพยุโรปเพิ่มอีกชั้นหนึ่ง ซึ่งบางส่วนมีผลบังคับใช้แล้ว และบางส่วนจะเริ่มใช้ในปลายทศวรรษนี้

ผลที่ตามมาในทางปฏิบัตินั้นชัดเจน บริษัทที่ใช้ระบบคัดกรองผู้สมัครงาน ระบบประเมินเครดิต หรือระบบตรวจจับการฉ้อโกง จะต้องรับผิดชอบต่อสิ่งที่ระบบนั้นทำ ไม่ว่าบริษัทจะสร้างระบบนั้นเองหรือไม่ และไม่ว่าจะมีใครตั้งใจให้เกิดผลลัพธ์นั้นหรือไม่ก็ตาม ในกฎหมายต่อต้านการเลือกปฏิบัติของเนเธอร์แลนด์ ผลของการตัดสินใจมีความสำคัญ ไม่ใช่แรงจูงใจที่อยู่เบื้องหลังการตัดสินใจนั้น

ความรับผิดต่ออคติเชิงอัลกอริทึมครอบคลุมอะไรบ้าง

อคติทางอัลกอริทึมเกิดขึ้นเมื่อระบบอัตโนมัติปฏิบัติต่อบุคคลที่เทียบเคียงกันได้แตกต่างกันออกไป โดยอาศัยเหตุผลที่กฎหมายคุ้มครอง หรือเหตุผลที่ใช้แทนเหตุผลเหล่านั้น อคตินี้มักไม่แสดงอาการให้เห็น แบบจำลองที่ได้รับการฝึกฝนจากข้อมูลการตัดสินใจของบริษัทเองตลอดทศวรรษ จะจำลองรูปแบบการตัดสินใจเหล่านั้นได้อย่างสม่ำเสมอและรวดเร็วในทุกไฟล์ที่มันเกี่ยวข้อง ความสม่ำเสมอนี้เองที่เปลี่ยนข้อบกพร่องทางเทคนิคให้กลายเป็นความเสี่ยงทางกฎหมาย การตัดสินใจของมนุษย์ที่มีอคติเพียงครั้งเดียวเป็นเพียงเหตุการณ์หนึ่ง ในขณะที่แบบจำลองที่มีอคติถือเป็นนโยบาย

ความรับผิดเกิดขึ้นจากสามแหล่งที่มาแยกกัน และสามารถเกิดขึ้นพร้อมกันได้จากการตัดสินใจเดียวกัน ความรับผิดทางแพ่งเป็นการชดเชยให้กับบุคคลที่ได้รับความเสียหาย กฎหมายว่าด้วยการปฏิบัติอย่างเท่าเทียมกันเปิดโอกาสให้บุคคลนั้นสามารถร้องเรียนต่อสถาบันสิทธิมนุษยชนแห่งเนเธอร์แลนด์ (College voor de Rechten van de Mens) หรือศาลแพ่ง โดยภาระการพิสูจน์จะตกอยู่กับองค์กรเมื่อมีการสันนิษฐานว่ามีการเลือกปฏิบัติเกิดขึ้น กฎหมายคุ้มครองข้อมูลส่วนบุคคลให้อำนาจบังคับใช้แก่หน่วยงานคุ้มครองข้อมูลส่วนบุคคลของเนเธอร์แลนด์ (Autoriteit Persoonsgegevens) โดยไม่ขึ้นอยู่กับการที่บุคคลใดบุคคลหนึ่งยื่นฟ้องร้องแต่อย่างใด

ทั้งหมดนี้ไม่จำเป็นต้องมีกฎหมายเฉพาะด้าน AI กฎเกณฑ์ที่ใช้ตัดสินคดีเหล่านี้ถูกเขียนขึ้นก่อนที่เทคโนโลยีนี้จะเกิดขึ้น และสามารถนำมาใช้ได้โดยไม่ต้องแก้ไขเพิ่มเติม

อคติเข้ามาในระบบอัตโนมัติได้อย่างไร

อคติไม่ใช่ความผิดพลาดเพียงครั้งเดียวที่สามารถแก้ไขได้ด้วยการทดสอบเพียงครั้งเดียว มันเกิดขึ้นในจุดต่างๆ ที่สามารถระบุได้ในวงจรชีวิต และแต่ละจุดจะเชื่อมโยงกับการกล่าวหาว่าประมาทเลินเล่อที่แตกต่างกัน

• ข้อมูลสำหรับการฝึกอบรม การตัดสินใจในอดีตมักมีรูปแบบในอดีตแฝงอยู่ แบบจำลองที่ฝึกฝนโดยใช้ข้อมูลเหล่านั้นจะเรียนรู้รูปแบบเหล่านั้นเป็นมาตรฐาน แทนที่จะมองว่าเป็นปัญหาที่ต้องแก้ไข
• การเลือกตัวแปร ลักษณะที่ดูเหมือนเป็นกลางอาจมีความสัมพันธ์อย่างใกล้ชิดกับลักษณะที่ได้รับการคุ้มครอง ตัวอย่างเช่น การใช้รหัสไปรษณีย์แทนเชื้อชาติ ถือเป็นการเลือกปฏิบัติทางอ้อม แม้ว่าลักษณะที่ได้รับการคุ้มครองนั้นจะไม่เคยถูกบันทึกไว้ก็ตาม
• วิธีการนำผลลัพธ์ไปใช้ประโยชน์ แบบจำลองที่ให้ผลลัพธ์ไม่สม่ำเสมอในแต่ละกลุ่ม อาจใช้ได้ในฐานะเครื่องมือวิจัย แต่ใช้เป็นเหตุผลเดียวในการปฏิเสธคำขอไม่ได้ คะแนนเดียวกัน หากนำไปใช้ในวิธีที่แตกต่างกัน ก็จะให้ผลทางกฎหมายที่แตกต่างกัน
• การขาดการตรวจสอบดูแล ระบบที่ได้รับการปรับสมดุลไว้ตั้งแต่เริ่มต้นจะเริ่มเบี่ยงเบนไปเมื่อข้อมูลรอบข้างเปลี่ยนแปลงไป การไม่ตรวจสอบเองก็ถือเป็นการประมาทเลินเล่อในหลายกรณี

ความแตกต่างที่สำคัญทางกฎหมายคือระหว่างการเลือกปฏิบัติโดยตรง ซึ่งเป็นการใช้เหตุผลที่ได้รับการคุ้มครองอย่างเปิดเผย และการเลือกปฏิบัติโดยอ้อม ซึ่งเป็นการใช้เกณฑ์ที่เป็นกลางแต่ทำให้กลุ่มที่ได้รับการคุ้มครองเสียเปรียบ การเลือกปฏิบัติโดยอ้อมอาจได้รับการพิสูจน์ว่าชอบธรรมได้หากเป้าหมายนั้นชอบด้วยกฎหมาย และวิธีการนั้นเหมาะสมและจำเป็น แต่การพิสูจน์นั้นต้องมีหลักฐาน และองค์กรที่ไม่สามารถอธิบายได้ว่าเหตุใดแบบจำลองของตนจึงใช้ตัวแปรที่กำหนด ก็จะไม่ได้รับการยอมรับ

รากฐานของเนเธอร์แลนด์: กฎหมายละเมิดและกฎหมายว่าด้วยความเสมอภาค

กฎหมายของเนเธอร์แลนด์สองฉบับทำหน้าที่หลักในการพิจารณาข้อเรียกร้องเรื่องการเลือกปฏิบัติ และกฎหมายทั้งสองฉบับนี้ให้คำตอบที่แตกต่างกัน กฎหมายละเมิดถามว่าองค์กรกระทำการโดยประมาทหรือไม่ และความเสียหายมีมูลค่าเท่าใด ในขณะที่กฎหมายว่าด้วยการปฏิบัติอย่างเท่าเทียมถามว่าผลลัพธ์ที่เกิดขึ้นเป็นการเลือกปฏิบัติหรือไม่ และกฎหมายฉบับนี้กำหนดภาระการพิสูจน์ที่เอื้อประโยชน์ต่อผู้ร้องเรียนโดยเจตนา

การติดตั้งอุปกรณ์โดยประมาทเป็นการกระทำที่ผิดกฎหมาย

มาตรา 6:162 แห่งประมวลกฎหมายแพ่งของเนเธอร์แลนด์ กำหนดให้บุคคลต้องรับผิดชอบต่อการกระทำที่ผิดกฎหมาย (onrechtmatige daad) ที่สามารถระบุได้ว่าเป็นผลมาจากการกระทำของตนและก่อให้เกิดความเสียหาย การนำระบบอัตโนมัติมาใช้โดยที่องค์กรไม่ได้ทดสอบ ตรวจสอบ หรือติดตาม ก็อาจเป็นการกระทำที่ผิดกฎหมายได้เช่นกัน นอกเหนือจากผลลัพธ์ที่ไม่เป็นธรรม ผู้เรียกร้องต้องแสดงให้เห็นถึงการกระทำ การระบุผู้กระทำ ความเสียหาย และความเชื่อมโยงเชิงสาเหตุระหว่างกัน มาตรฐานที่นำมาใช้คือสิ่งที่องค์กรที่รอบคอบในสถานการณ์เดียวกันควรทำ

ในกรณีที่ระบบมาจากผู้จำหน่าย องค์กรที่ติดตั้งระบบก็ยังไม่พ้นจากหน้าที่นั้น อาจมีสิทธิ์เรียกร้องตามสัญญาต่อผู้จำหน่ายภายใต้มาตรา 6:74 แห่งประมวลกฎหมายแพ่งในกรณีที่การปฏิบัติงานบกพร่อง แต่เป็นการดำเนินคดีแยกต่างหากระหว่างสองฝ่ายทางการค้า ซึ่งไม่เกี่ยวข้องกับข้อเรียกร้องของผู้ยื่นคำขอที่ถูกปฏิเสธ

กฎหมายว่าด้วยการปฏิบัติอย่างเท่าเทียมและการเปลี่ยนภาระการพิสูจน์

กฎหมายว่าด้วยการปฏิบัติต่อทุกคนอย่างเท่าเทียมกัน (Algemene wet gelijke behandeling) และกฎหมายเฉพาะด้านที่เกี่ยวข้อง รวมถึงกฎหมายว่าด้วยการเลือกปฏิบัติทางอายุ (WGBL) และกฎหมายว่าด้วยความพิการและโรคเรื้อรัง (WGBH/CZ) ห้ามการเลือกปฏิบัติโดยตรงและโดยอ้อมบนพื้นฐานที่ได้รับการคุ้มครอง ในด้านการจ้างงาน มาตรา 7:646 ของประมวลกฎหมายแพ่งได้เพิ่มบทบัญญัติเกี่ยวกับเพศเข้าไปด้วย

กฎขั้นตอนการดำเนินงานเป็นตัวตัดสินคดีส่วนใหญ่ เมื่อผู้ร้องเรียนนำเสนอข้อเท็จจริงที่ก่อให้เกิดข้อสันนิษฐานว่ามีการเลือกปฏิบัติ ภาระการพิสูจน์จะเปลี่ยนไป: องค์กรจะต้องพิสูจน์ว่าตนไม่ได้ละเมิดข้อห้ามนั้น องค์กรที่ไม่สามารถแสดงให้เห็นว่าแบบจำลองของตนมีน้ำหนักเท่าใด ใช้ข้อมูลอะไร และทดสอบอย่างไร ก็ไม่มีทางที่จะเอาชนะภาระการพิสูจน์นั้นได้ นี่คือจุดที่เอกสารที่ไม่ครบถ้วนจะไม่ใช่แค่ปัญหาภายในองค์กรอีกต่อไป แต่กลายเป็นสาเหตุที่ทำให้การร้องเรียนถูกปฏิเสธ

นอกจากนี้ยังสามารถยื่นเรื่องร้องเรียนต่อสถาบันสิทธิมนุษยชนแห่งเนเธอร์แลนด์ได้ ซึ่งความเห็นของสถาบันนี้ไม่มีผลผูกพันทางกฎหมาย แต่ได้รับการปฏิบัติตามอย่างกว้างขวางและมักถูกนำมาใช้เป็นหลักฐานในการดำเนินคดีแพ่งในภายหลัง

ข้อกำหนดของ GDPR เกี่ยวกับการตัดสินใจอัตโนมัติ

GDPR กำกับดูแลระบบเดียวกันจากมุมมองด้านการคุ้มครองข้อมูล มาตรา 22 ให้สิทธิแก่บุคคลที่จะไม่ถูกตัดสินใจโดยอาศัยการประมวลผลอัตโนมัติเพียงอย่างเดียว รวมถึงการสร้างโปรไฟล์ ในกรณีที่การตัดสินใจนั้นก่อให้เกิดผลทางกฎหมายหรือส่งผลกระทบอย่างมีนัยสำคัญต่อบุคคลนั้น การตัดสินใจเกี่ยวกับการสรรหาบุคลากร สินเชื่อ และสวัสดิการโดยทั่วไปจัดอยู่ในขอบเขตดังกล่าว

คำที่มีความสำคัญที่สุดคือคำว่า " แต่เพียง ผู้เดียว " การมีส่วนร่วมของมนุษย์จะเกิดขึ้นได้ก็ต่อเมื่อการตัดสินใจนั้นมีความหมาย นอกเหนือจากมาตรา 22 กล่าวคือ บุคคลที่มีอำนาจและข้อมูลที่จะนำไปสู่ข้อสรุปที่แตกต่างออกไป ไม่ใช่ผู้ปฏิบัติงานที่ยืนยันสิ่งที่ปรากฏบนหน้าจอ การประทับตราอนุมัติโดยไม่ตรวจสอบถือเป็นการตัดสินใจโดยอัตโนมัติ

ข้อผูกพันเพิ่มเติมอีกสองประการมีผลบังคับใช้โดยไม่คำนึงถึงมาตรา 22 หลักการความเป็นธรรมในมาตรา 5(1)(a) เป็นข้อกำหนดที่แยกต่างหากซึ่งแบบจำลองการเลือกปฏิบัติละเมิดโดยนิยาม และมาตรา 35 กำหนดให้มีการประเมินผลกระทบด้านการคุ้มครองข้อมูลก่อนการประมวลผลที่อาจส่งผลให้เกิดความเสี่ยงสูงต่อบุคคล ซึ่งโดยทั่วไปแล้วการสร้างโปรไฟล์อย่างเป็นระบบของผู้สมัครหรือลูกค้าก็ถือเป็นความเสี่ยงดังกล่าว ค่าปรับสูงสุดสำหรับการละเมิดบทบัญญัติเหล่านี้กำหนดโดยมาตรา 83(5) ของ GDPR ไว้ที่จำนวนที่สูงกว่าระหว่างยี่สิบล้านยูโรหรือร้อยละสี่ของยอดขายประจำปีทั่วโลก

ภาพรวมของเราเกี่ยวกับความเป็นส่วนตัวของข้อมูล GDPR ปัญญาประดิษฐ์ และบิ๊กดาต้าจะอธิบายรายละเอียดเพิ่มเติมว่าหน้าที่เหล่านี้มีปฏิสัมพันธ์กับการใช้ข้อมูลขนาดใหญ่ได้อย่างไร

สิ่งที่กฎหมาย AI กำหนดไว้แล้ว และสิ่งที่จะเริ่มในภายหลัง

ระเบียบ (EU) 2024/1689 หรือกฎหมายว่าด้วยปัญญาประดิษฐ์ (AI Act) ไม่ใช่ข้อเสนออีกต่อไปแล้ว มีผลบังคับใช้ตั้งแต่วันที่ 1 สิงหาคม 2024 และจะทยอยบังคับใช้เป็นขั้นตอน ตั้งแต่วันที่ 2 กุมภาพันธ์ 2025 ข้อห้ามในมาตรา 5 จะมีผลบังคับใช้ พร้อมกับหน้าที่ในมาตรา 4 ที่ต้องตรวจสอบให้แน่ใจว่าบุคลากรที่ทำงานกับระบบ AI มีความรู้ความเข้าใจเกี่ยวกับ AI ในระดับที่เหมาะสม ส่วนข้อกำหนดสำหรับแบบจำลอง AI ทั่วไปมีผลบังคับใช้ตั้งแต่วันที่ 2 สิงหาคม 2025 เช่นเดียวกับบทบัญญัติเกี่ยวกับการกำกับดูแลและบทลงโทษ

กฎระเบียบเกี่ยวกับระบบที่มีความเสี่ยงสูงเป็นส่วนที่เกี่ยวข้องกับอคติโดยตรงที่สุด และเป็นส่วนที่ถูกเลื่อนออกไป ระบบ AI ที่ระบุไว้ในภาคผนวก III ซึ่งรวมถึงระบบที่ใช้ในการสรรหาและคัดเลือก ระบบที่ใช้ในการตัดสินใจเกี่ยวกับการเลื่อนตำแหน่งและการเลิกจ้าง ระบบที่ใช้ในการประเมินความน่าเชื่อถือทางเครดิต และระบบที่ใช้ในการประเมินความเสี่ยงในธุรกิจประกันภัย จะอยู่ภายใต้ข้อกำหนดเกี่ยวกับระบบที่มีความเสี่ยงสูงในวันที่ 2 ธันวาคม 2027 ส่วนระบบที่มีความเสี่ยงสูงที่เป็นส่วนประกอบด้านความปลอดภัยของผลิตภัณฑ์ที่อยู่ภายใต้การกำกับดูแลในภาคผนวก I จะตามมาในวันที่ 2 สิงหาคม 2028

เมื่อข้อผูกพันเหล่านั้นมีผลบังคับใช้ มันจะบัญญัติสิ่งที่การปฏิบัติอย่างรอบคอบได้กระทำอยู่แล้วมากมาย เช่น การกำกับดูแลข้อมูลที่มุ่งเน้นชุดข้อมูลที่เป็นตัวแทนและตรวจสอบข้อผิดพลาดแล้ว เอกสารทางเทคนิค การบันทึกข้อมูลอัตโนมัติ ความโปร่งใสต่อผู้ที่ได้รับผลกระทบ การกำกับดูแลโดยมนุษย์ที่ออกแบบไว้ในระบบแทนที่จะเป็นการเพิ่มเติมเข้ามา และการประเมินความสอดคล้องก่อนที่จะนำระบบออกสู่ตลาดหรือนำไปใช้งาน ผู้ติดตั้งระบบ ไม่ใช่แค่ผู้ให้บริการเท่านั้น ที่มีหน้าที่ของตนเอง รวมถึงการเก็บรักษาบันทึกและมอบหมายการกำกับดูแลให้แก่ผู้ที่มีความสามารถ

มีสองประเด็นที่มักถูกกล่าวผิด เพดานค่าปรับนั้นแบ่งเป็นระดับ ไม่ใช่แบบเดียวกันทั้งหมด: ค่าปรับสูงสุดถึงสามสิบห้าล้านยูโร หรือเจ็ดเปอร์เซ็นต์ของรายได้ทั่วโลก จะใช้กับการละเมิดข้อห้ามในมาตรา 5 ในขณะที่การไม่ปฏิบัติตามข้อผูกพันที่มีความเสี่ยงสูงจะมีเพดานค่าปรับที่ต่ำกว่า คือสิบห้าล้านยูโร หรือสามเปอร์เซ็นต์ และร่างคำสั่งเกี่ยวกับความรับผิดต่อ AI ซึ่งจะช่วยลดภาระการพิสูจน์สำหรับผู้ที่ได้รับอันตรายจากระบบ AI ทั่วสหภาพยุโรป ได้ถูกถอนออกไปแล้ว ไม่มีระบบความรับผิดที่เป็นเอกภาพในยุโรปสำหรับความเสียหายจาก AI การเรียกร้องค่าเสียหายในเนเธอร์แลนด์ถือเป็นการเรียกร้องภายใต้กฎหมายดัตช์

การบังคับใช้กฎหมายในระดับประเทศยังอยู่ในระหว่างการสร้าง ประเทศเนเธอร์แลนด์ยังไม่ได้ออกกฎหมายบังคับใช้ที่กำหนดหน่วยงานกำกับดูแลตลาดภายใต้ระเบียบข้อบังคับดังกล่าวเสร็จสมบูรณ์ ถึงแม้ว่าหน่วยงานคุ้มครองข้อมูลของเนเธอร์แลนด์และหน่วยงานโครงสร้างพื้นฐานดิจิทัลของเนเธอร์แลนด์จะเข้ามามีบทบาทในการประสานงานในขั้นตอนการเตรียมการแล้วก็ตาม เราจะกล่าวถึงกรอบการทำงานนี้อย่างละเอียดมากขึ้นในคู่มือเกี่ยวกับด้านกฎหมายของปัญญาประดิษฐ์และกฎหมาย AI ของสหภาพยุโรป

ความแตกต่างระหว่างกรอบแนวคิดทั้งสาม

กรอบการทำงานเหล่านี้ทับซ้อนกันมากกว่าที่จะแข่งขันกัน การปฏิเสธคำขอเพียงครั้งเดียวอาจนำไปสู่การฟ้องร้องทางแพ่ง การร้องเรียนต่อสถาบัน การสอบสวนด้านกฎระเบียบ และในที่สุดก็อาจนำไปสู่การไม่ปฏิบัติตามพระราชบัญญัติ AI โดยใช้ข้อเท็จจริงชุดเดียวกัน

สิ่งที่คดีในเนเธอร์แลนด์ได้พิสูจน์แล้ว

เหตุการณ์สองเหตุการณ์นี้สะท้อนให้เห็นถึงแนวทางที่ศาลและหน่วยงานกำกับดูแลของเนเธอร์แลนด์ใช้ในการจัดการกับการตัดสินใจโดยอัตโนมัติ และทั้งสองเหตุการณ์ล้วนเกี่ยวข้องกับความล้มเหลวเดียวกัน นั่นคือ ระบบที่ไม่โปร่งใสซึ่งนำมาใช้กับผู้คนที่ไม่สามารถมองเห็นวิธีการทำงานของระบบได้

ในเดือนกุมภาพันธ์ 2020 ศาลแขวงกรุงเฮกได้สั่งระงับระบบ SyRI ซึ่งเป็นระบบบ่งชี้ความเสี่ยงที่หน่วยงานภาครัฐใช้ในการรวบรวมข้อมูลจากแหล่งต่างๆ เพื่อตรวจจับการฉ้อโกงสวัสดิการและภาษี ศาลเห็นว่ากฎหมายที่รองรับระบบดังกล่าวไม่ผ่านการทดสอบความสมดุลที่เป็นธรรมภายใต้มาตรา 8 ของอนุสัญญาว่าด้วยสิทธิมนุษยชนแห่งยุโรป สิ่งที่ทำให้ระบบล้มเหลวไม่ใช่การวิเคราะห์ข้อมูลโดยตรง แต่เป็นการขาดความโปร่งใสและการตรวจสอบได้ กล่าวคือ ทั้งแบบจำลองความเสี่ยงและตัวชี้วัดไม่ได้ถูกเปิดเผย ดังนั้นทั้งประชาชนที่ได้รับผลกระทบและศาลจึงไม่สามารถตรวจสอบผลกระทบจากการเลือกปฏิบัติได้ บทเรียนสำหรับองค์กรเอกชนคือ ระบบที่ไม่มีใครอธิบายได้นั้นไม่สามารถปกป้องได้ เพราะฝ่ายที่ดำเนินการระบบนั้นต้องแบกรับภาระในการพิสูจน์ความชอบธรรมของระบบนั้น

กรณีอื้อฉาวเกี่ยวกับสวัสดิการเลี้ยงดูบุตร (toeslagenaffaire) แสดงให้เห็นถึงประเด็นเดียวกันนี้ผ่านผลที่ตามมา หน่วยงานด้านภาษีใช้ระบบคัดเลือกความเสี่ยงอัตโนมัติที่ถือว่าตัวบ่งชี้ต่างๆ เช่น การมีสัญชาติคู่ เป็นสัญญาณของการฉ้อโกง และพ่อแม่หลายหมื่นคนถูกตีตราอย่างผิดๆ และถูกติดตามทวงเงินคืน หน่วยงานคุ้มครองข้อมูลของเนเธอร์แลนด์พบว่าการประมวลผลข้อมูลดังกล่าวไม่ชอบด้วยกฎหมายและเป็นการเลือกปฏิบัติ และได้ดำเนินการบังคับใช้กฎหมาย นอกจากนี้ยังยืนยันหลักการที่สำคัญที่สุดในที่นี้ด้วย นั่นคือ ข้อแก้ตัวที่ว่าระบบสร้างผลลัพธ์นั้นไม่มีน้ำหนัก เพราะการเลือกใช้ระบบนั้นเองก็เป็นการกระทำที่ถูกตัดสินอยู่แล้ว

ในกรณีที่เกิดความรับผิดในทางธุรกิจตามปกติ

ความเสี่ยงส่วนใหญ่ไม่เคยนำไปสู่คำตัดสินสำคัญทางกฎหมาย แต่เกิดขึ้นจากการตัดสินใจในการดำเนินงานทั่วไป

ระบบคัดกรองผู้สมัครงานที่ได้รับการฝึกฝนจากประวัติการจ้างงานขององค์กรเอง จะเรียนรู้ความชอบใดๆ ก็ตามที่ประวัติเหล่านั้นมีอยู่ และนำไปใช้กับผู้สมัครทุกคนในภายหลัง เนื่องจากเครื่องมือการสรรหาบุคลากรจัดอยู่ในภาคผนวกที่ 3 ของพระราชบัญญัติ AI และเกี่ยวข้องกับมาตรา 22 ของ GDPR ในเวลาเดียวกัน จึงดึงดูดกรอบการทำงานทั้งสามกรอบพร้อมกัน แบบจำลองเครดิตหรือประกันภัยที่ใช้รหัสไปรษณีย์ ช่องว่างในประวัติการทำงาน หรือตัวแทนที่มีลักษณะคล้ายกัน อาจก่อให้เกิดการเลือกปฏิบัติทางอ้อมได้ แม้ว่าชุดข้อมูลจะไม่มีลักษณะที่ได้รับการคุ้มครองเลยก็ตาม ระบบการจัดการกำลังคนซึ่งจัดสรรกะการทำงาน ตรวจสอบประสิทธิภาพ หรือป้อนข้อมูลเข้าสู่การตัดสินใจเลิกจ้าง ก็อยู่ในประเภทเดียวกัน โดยมีข้อแทรกซ้อนเพิ่มเติมคือ สภาแรงงานอาจมีสิทธิ์ให้ความยินยอมภายใต้พระราชบัญญัติสภาแรงงานก่อนที่จะนำระบบดังกล่าวมาใช้

ในแต่ละกรณี คำถามที่ศาลดัตช์ถามนั้นเหมือนกัน คือ องค์กรนั้นรู้เกี่ยวกับพฤติกรรมของระบบมากน้อยเพียงใด องค์กรนั้นทำอะไรเพื่อค้นหาข้อเท็จจริง และองค์กรนั้นทำอะไรเมื่อรูปแบบดังกล่าวปรากฏให้เห็น?

ผู้ขายและผู้ติดตั้งระบบ: ใครรับผิดชอบอะไรบ้าง

การซื้อระบบไม่ได้หมายความว่าความเสี่ยงจะหมดไปด้วย ภายใต้พระราชบัญญัติปัญญาประดิษฐ์ ผู้ให้บริการและผู้ใช้งานมีหน้าที่แยกจากกัน และภายใต้กฎหมายแพ่งของเนเธอร์แลนด์ ผู้ที่ได้รับความเสียหายสามารถฟ้องร้องผู้ที่ตัดสินใจซึ่งส่งผลกระทบต่อตน ซึ่งโดยส่วนใหญ่แล้วมักจะเป็นองค์กรที่ใช้งานระบบ

สัญญาสามารถกำหนดความรับผิดชอบทางการเงินและรักษาข้อมูลที่จำเป็นสำหรับการต่อสู้คดีได้ ข้อตกลงจัดซื้อจัดจ้างที่ดีควรระบุตัวชี้วัดประสิทธิภาพและความเป็นธรรมที่ระบบต้องปฏิบัติตาม รับประกันการเข้าถึงเอกสาร ผลการทดสอบ และบันทึกต่างๆ ให้สิทธิ์ในการตรวจสอบ กำหนดให้ผู้จัดจำหน่ายต้องแจ้งการเปลี่ยนแปลงที่สำคัญของแบบจำลอง และกำหนดวิธีการแบ่งปันความรับผิดและค่าใช้จ่ายในการต่อสู้คดีหากเกิดการเรียกร้อง สิ่งที่สัญญาทำไม่ได้คือการยกเลิกค่าปรับตามกฎหมายหรือหน้าที่ตามกฎหมาย บทความของเราเกี่ยวกับผู้ที่ต้องรับผิดชอบต่อข้อผิดพลาดที่เกิดจากปัญญาประดิษฐ์จะอธิบายการจัดสรรความรับผิดชอบโดยละเอียดมากขึ้น

ควบคุมความเสี่ยงก่อนที่จะเกิดการเรียกร้องค่าสินไหมทดแทน

การตั้งรับในข้อกล่าวหาเรื่องการเลือกปฏิบัติเกิดขึ้นนานก่อนที่จะมีการยื่นข้อกล่าวหา และประกอบด้วยหลักฐานเป็นส่วนใหญ่ เนื่องจากภาระการพิสูจน์จะเปลี่ยนไปเมื่อมีการสันนิษฐานว่ามีการเลือกปฏิบัติเกิดขึ้น องค์กรที่สามารถแสดงให้เห็นว่าได้ทดสอบอะไร เมื่อไหร่ และได้ดำเนินการอย่างไรกับผลลัพธ์ จะอยู่ในสถานะที่แตกต่างอย่างสิ้นเชิงจากองค์กรที่ไม่สามารถแสดงหลักฐานได้

โปรแกรมที่ใช้งานได้จริงมีองค์ประกอบสี่ประการ ได้แก่ การทดสอบก่อนการใช้งานจริง โดยเปรียบเทียบอัตราผลลัพธ์ระหว่างกลุ่มที่กฎหมายคุ้มครอง และตรวจสอบข้อมูลการฝึกอบรมและตัวแปรที่เลือกใช้เป็นตัวแทน การทดสอบอย่างต่อเนื่องหลังการใช้งานจริง เพราะแบบจำลองที่สมดุลในตอนเริ่มต้นจะไม่คงความสมดุลเช่นนั้นตลอดไป มอบหมายอำนาจให้บุคคลหรือคณะกรรมการที่ได้รับการแต่งตั้งหนึ่งคนในการตรวจสอบผลลัพธ์และระงับระบบ เพื่อให้การตัดสินใจที่จะดำเนินการต่อเป็นการตัดสินใจของบุคคลใดบุคคลหนึ่ง ไม่ใช่การตัดสินใจโดยปริยายที่ไม่มีใครรับผิดชอบ และบันทึกทุกอย่าง รวมถึงแหล่งข้อมูล การตรวจสอบความถูกต้อง ผลการตรวจสอบ และขั้นตอนการแก้ไข ในรูปแบบที่สามารถส่งมอบให้หน่วยงานกำกับดูแลหรือนำเสนอในกระบวนการพิจารณาคดีได้

นอกจากนั้นแล้ว ควรคงไว้ซึ่งการตัดสินใจของมนุษย์อย่างแท้จริงในกรณีที่มาตรา 22 มีผลบังคับใช้ ดำเนินการประเมินผลกระทบด้านการคุ้มครองข้อมูลให้เสร็จสิ้นก่อนที่ระบบจะเริ่มใช้งานจริง แทนที่จะเป็นหลังจากนั้น ตรวจสอบว่าสภาแรงงานมีบทบาทหรือไม่ และสามารถอธิบายให้ผู้ที่ได้รับผลกระทบเข้าใจได้ง่ายๆ ว่าเหตุใดการตัดสินใจจึงเป็นเช่นนั้น ขั้นตอนเหล่านี้ไม่ใช่เรื่องแปลกใหม่ และระบอบการจัดการความเสี่ยงสูงของพระราชบัญญัติ AI จะกำหนดให้ขั้นตอนส่วนใหญ่เหล่านี้เป็นข้อบังคับสำหรับระบบการสรรหา การให้สินเชื่อ และการประกันภัยตั้งแต่เดือนธันวาคม 2027 เป็นต้นไป องค์กรที่สร้างระบบเหล่านี้ในตอนนี้จึงถือว่าก้าวล้ำนำหน้าไปก่อนแล้ว

ควรทำอย่างไรหากมีการคัดค้านการตัดสินใจ

เมื่อผู้สมัคร ลูกค้า หรือพนักงานตั้งคำถามเกี่ยวกับการตัดสินใจอัตโนมัติ สิ่งแรกที่ต้องทำคือการตรวจสอบข้อเท็จจริง: หาข้อมูลที่ระบบดำเนินการในกรณีนั้น ใช้ข้อมูลป้อนเข้าอะไรบ้าง บุคคลนั้นได้ใช้ดุลยพินิจจริงหรือไม่ และผลลัพธ์นั้นสอดคล้องกับรูปแบบโดยรวมหรือไม่ ควรทำเช่นนั้นก่อนที่จะตอบ เพราะคำตอบแรกที่ไม่ถูกต้องนั้นแก้ไขได้ยากในภายหลัง และจะถูกมองว่าเป็นข้อเสียขององค์กร

เก็บรักษาบันทึกและเวอร์ชันของแบบจำลองที่เกี่ยวข้องไว้ ประเมินข้อกล่าวหาตามกรอบทั้งสามกรอบ แทนที่จะใช้กรอบที่ผู้ร้องเรียนอ้างถึง เนื่องจากข้อร้องเรียนเกี่ยวกับการคุ้มครองข้อมูลและข้อกล่าวหาเกี่ยวกับการเลือกปฏิบัติอาจเกิดขึ้นจากไฟล์เดียวกัน หากรูปแบบดังกล่าวเป็นของจริง การแก้ไขและเยียวยาการตัดสินใจที่ได้รับผลกระทบจะจำกัดความเสียหายได้อย่างมีประสิทธิภาพมากกว่าการปกป้องตนเอง

Law & More ให้คำปรึกษาแก่บริษัทต่างๆ เกี่ยวกับด้านกฎหมายของการตัดสินใจอัตโนมัติ: ประเมินความเสี่ยงภายใต้กฎหมายละเมิดและกฎหมายว่าด้วยการปฏิบัติอย่างเท่าเทียมกันของเนเธอร์แลนด์ ตรวจสอบการปฏิบัติตาม GDPR สำหรับการสร้างโปรไฟล์และการตัดสินใจอัตโนมัติ เตรียมความพร้อมสำหรับข้อผูกพันของ AI Act ที่ใช้กับระบบการสรรหาบุคลากร สินเชื่อ และประกันภัย การเจรจาสัญญากับผู้ขาย และการปกป้องตนเองจากการเรียกร้องและการสอบสวนของหน่วยงานกำกับดูแล ทนายความด้านไอที ยินดีที่จะหารือเกี่ยวกับวิธีการนำกฎระเบียบไปใช้กับระบบที่คุณใช้

คำถามที่พบบ่อยเกี่ยวกับความรับผิดชอบต่ออคติเชิงอัลกอริทึม

เมื่อธุรกิจต่างๆ เริ่มนำปัญญาประดิษฐ์ (AI) มาใช้มากขึ้น ผู้นำหลายคนจึงเริ่มตั้งคำถามเฉพาะเจาะจงเกี่ยวกับความรับผิดชอบทางกฎหมาย ด้านล่างนี้ เราจะมาตอบคำถามที่พบบ่อยและท้าทายที่สุด พร้อมให้คำตอบที่ชัดเจนเพื่อช่วยให้คุณเข้าใจและจัดการกับประเด็นทางกฎหมายที่ซับซ้อนนี้ได้