ใครจะเป็นผู้รับผิดชอบเมื่อระบบ AI ก่อให้เกิดอันตราย?

ความรับผิดชอบต่อระบบ AI ในประเทศเนเธอร์แลนด์นั้นตกอยู่กับบุคคลหรือบริษัทเสมอ ไม่ใช่ซอฟต์แวร์ ในทางปฏิบัติแล้วมีสองฝ่ายที่สำคัญ คือ ผู้ใช้งาน ซึ่งหมายถึงบุคคลหรือองค์กรที่ใช้งานระบบและตัดสินใจโดยใช้ระบบนั้น และผู้ผลิต ซึ่งหมายถึงฝ่ายที่พัฒนาระบบ นำออกสู่ตลาด หรือจัดหาระบบนั้น ฝ่ายใดจะเป็นผู้รับผิดชอบนั้นขึ้นอยู่กับว่าความผิดพลาดเกิดขึ้นที่ใด แต่ละฝ่ายรู้มากน้อยเพียงใด และสัญญาที่ทำขึ้นระหว่างกันระบุไว้อย่างไร บทความนี้จะกล่าวถึงทั้งสองฝ่าย ส่วนกรอบกฎหมายอาญา ตั้งแต่การกระทำผิดโดยเจตนาไปจนถึงความรับผิดขององค์กรภายใต้มาตรา 51 ของประมวลกฎหมายอาญา จะกล่าวถึงในบทความที่เกี่ยวข้องเกี่ยวกับการที่อัลกอริทึมสามารถมีส่วนรับผิดชอบได้หรือไม่

เหตุใดระบบจึงไม่เคยเป็นจำเลย

กฎหมายของเนเธอร์แลนด์รับรองบุคคลสองประเภท ได้แก่ บุคคลธรรมดาและนิติบุคคล ระบบ AI ไม่ใช่ทั้งสองประเภท มันไม่สามารถมีสิทธิ ไม่สามารถถูกฟ้องร้อง ไม่สามารถถูกปรับ และไม่สามารถถูกสั่งให้จ่ายค่าเสียหายได้ เพราะมันไม่มีทรัพย์สินใด ๆ และไม่มีสถานะทางกฎหมายแยกต่างหากจากบริษัทที่ดำเนินการอยู่ ข้อเสนอในการสร้างประเภทที่สาม ซึ่งบางครั้งเรียกว่า บุคคลอิเล็กทรอนิกส์ ได้มีการหารือกันในระดับยุโรปแล้ว แต่ก็ไม่มีความคืบหน้าด้วยเหตุผลที่เน้นด้านการปฏิบัติมากกว่าด้านปรัชญา นั่นคือ ยานพาหนะรับผิดที่ไม่มีสินทรัพย์และไม่มีความสามารถในการเปลี่ยนแปลงพฤติกรรมจะทำให้ความเสี่ยงเปลี่ยนไปจากฝ่ายที่สามารถป้องกันอันตรายได้จริง

ดังนั้นคำถามจึงไม่ใช่ว่าเครื่องจักรมีความรับผิดชอบหรือไม่ แต่เป็นว่าบุคคลหรือองค์กรใดในห่วงโซ่นั้นล้มเหลวในการปฏิบัติหน้าที่ และห่วงโซ่นั้นมีรูปแบบที่คาดเดาได้ คือ ฝ่ายที่สร้างแบบจำลอง ฝ่ายที่เปลี่ยนแบบจำลองให้เป็นผลิตภัณฑ์ ฝ่ายที่จัดหาหรือบูรณาการ ฝ่ายที่นำไปใช้งาน และบุคคลที่กดปุ่ม ความรับผิดชอบของระบบ AI คือการค้นหาความล้มเหลวในห่วงโซ่นั้นและจับคู่กับพื้นฐานทางกฎหมาย

หลักกฎหมายสองประการนั้นมีความสำคัญเหนือกว่า สำหรับผู้ใช้ คือ กฎหมายละเมิดทั่วไปและหน้าที่ในการดูแลที่มาพร้อมกับการใช้เครื่องมือที่มีประสิทธิภาพในทิศทางของผู้อื่น สำหรับผู้ผลิต คือ ความรับผิดต่อผลิตภัณฑ์ ซึ่งไม่จำเป็นต้องพิสูจน์ความผิดแต่อย่างใด ทุกสิ่งทุกอย่างอื่น รวมถึงความรับผิดทางอาญา จะถูกวางซ้อนอยู่บนหลักกฎหมายเหล่านี้

ตำแหน่งของผู้ใช้

ผู้ใช้มักประเมินความเสี่ยงของตนเองต่ำเกินไป เพราะคิดว่าระบบเป็นเหมือนกล่องดำที่คนอื่นสร้างขึ้น ในทางกฎหมาย บุคคลที่เลือกใช้เครื่องมือ ตั้งค่า ป้อนข้อมูล และดำเนินการตามผลลัพธ์ที่ได้นั้น กำลังกระทำการบางอย่าง และการกระทำนั้นจะได้รับการประเมินตามคุณค่าของมันเอง

เมื่อระบบเป็นเพียงเครื่องมือในการกระทำความผิด

กรณีที่ง่ายที่สุดคือกรณีที่ใช้ระบบ AI โดยเจตนา การสร้างใบแจ้งหนี้ที่ดูเหมือนจริงเพื่อฉ้อโกงบริษัทถือเป็นการฉ้อโกงตามมาตรา 326 แห่งประมวลกฎหมายอาญา ไม่ว่าจดหมายนั้นจะร่างโดยบุคคลหรือโดยแบบจำลอง และการปลอมแปลงเอกสารยังคงเป็นการปลอมแปลงเอกสารตามมาตรา 225 โดยไม่คำนึงถึงเครื่องมือที่ใช้ การใช้แบบจำลองเขียนโค้ดเพื่อเจาะระบบยังคงถือเป็นการบุกรุกคอมพิวเตอร์ตามมาตรา 138ab การสร้างและเผยแพร่ภาพที่ถูกดัดแปลงของบุคคลจริงอาจถือเป็นการหมิ่นประมาท และหากเนื้อหานั้นมีลักษณะทางเพศ จะเข้าข่ายความผิดตามพระราชบัญญัติความผิดทางเพศที่บังคับใช้ตั้งแต่วันที่ 1 กรกฎาคม 2024 การคุกคามบุคคลโดยใช้ AI อย่างต่อเนื่องอาจถือเป็นการสะกดรอยตามตามมาตรา 285b ซึ่งจะถูกดำเนินคดีก็ต่อเมื่อผู้เสียหายร้องเรียนเท่านั้น

ทั้งหมดนี้ไม่ใช่กฎหมายใหม่ เทคโนโลยีเปลี่ยนแค่ขนาดและความน่าเชื่อถือของการหลอกลวง ไม่ใช่องค์ประกอบของความผิด สิ่งที่เปลี่ยนไปคือหลักฐาน: ข้อความแจ้งเตือน บันทึกบัญชี ผลลัพธ์จากแบบจำลอง และช่วงเวลาของการสร้างไฟล์ คือข้อมูลที่เชื่อมโยงความผิดกับบุคคล และผู้ใช้ที่คิดว่าเนื้อหาที่สร้างโดย AI นั้นตรวจสอบไม่ได้ มักจะคิดผิด

การใช้งานโดยประมาท: ความเสี่ยงที่พบได้บ่อยกว่า

องค์กรจำนวนมากประสบปัญหาเนื่องจากความประมาทมากกว่าเจตนา รูปแบบนี้คุ้นเคยกันดี ระบบถูกซื้อมาเพื่อวัตถุประสงค์หนึ่ง แต่กลับถูกนำไปใช้ในอีกวัตถุประสงค์หนึ่ง ผลลัพธ์ของระบบถูกมองว่าเป็นการตัดสินใจมากกว่าเป็นสัญญาณ ไม่มีใครตรวจสอบกรณีที่ระบบทำงานผิดพลาด เพราะผู้ที่ใช้งานระบบไม่เคยได้รับแจ้งว่าอัตราความผิดพลาดของระบบเป็นอย่างไร หรือระบบล้มเหลวที่จุดใด เมื่อความเสียหายเกิดขึ้น องค์กรจึงพบว่าตนเองไม่มีบันทึกว่าการตัดสินใจนั้นเกิดขึ้นได้อย่างไร

ในทางแพ่ง นี่คือความผิดทางละเมิดโดยตรง: มาตรา 6:162 แห่งประมวลกฎหมายแพ่งกำหนดให้บุคคลต้องรับผิดชอบต่อการกระทำที่ผิดกฎหมายซึ่งเป็นความผิดของตนและก่อให้เกิดความเสียหาย การละเมิดหน้าที่ในการดูแลในสังคมเป็นหนึ่งในประเภทของการกระทำที่ผิดกฎหมาย และเนื้อหาของหน้าที่นั้นถูกกำหนดโดยสิ่งที่ผู้ปฏิบัติงานที่ระมัดระวังในสถานการณ์เช่นนั้นควรจะทำ นอกจากนี้ นายจ้างยังต้องรับผิดชอบต่อความผิดพลาดของลูกจ้างภายใต้มาตรา 6:170 และฝ่ายที่ใช้ผู้ช่วยในการปฏิบัติงานตามสัญญาต้องรับผิดชอบต่อผู้ช่วยนั้นภายใต้มาตรา 6:76 ซึ่งเป็นบทบัญญัติที่ครอบคลุมองค์กรที่ใช้รูปแบบของซัพพลายเออร์ในการให้บริการของตนเอง

หน้าที่ในการดูแลเอาใจใส่ไม่ได้ถูกปล่อยให้เป็นหน้าที่ของศาลในการกำหนดขึ้นอีกต่อไปแล้ว กฎหมาย AI ของสหภาพยุโรปได้กำหนดภาระผูกพันที่ชัดเจนให้กับผู้ใช้งานระบบที่มีความเสี่ยงสูง ได้แก่ การใช้ระบบตามคำแนะนำ การมอบหมายการกำกับดูแลโดยมนุษย์ให้กับบุคคลที่มีความสามารถและอำนาจในการดำเนินการ การตรวจสอบให้แน่ใจว่าข้อมูลที่ป้อนเข้าภายใต้การควบคุมของตนมีความเกี่ยวข้อง การตรวจสอบการทำงานและระงับการใช้งานเมื่อเกิดความเสี่ยง การเก็บรักษาบันทึก และการแจ้งให้พนักงานและตัวแทนของพวกเขาทราบก่อนที่จะนำระบบดังกล่าวไปใช้ในที่ทำงาน ภาระผูกพันเหล่านั้นเป็นข้อบังคับ แต่ศาลที่ประเมินความประมาทจะอ่านข้อผูกพันเหล่านั้นในฐานะคำอธิบายว่าการปฏิบัติตนอย่างระมัดระวังควรเป็นอย่างไร องค์กรที่เพิกเฉยต่อคำแนะนำในการใช้งานไม่เพียงแต่ไม่ปฏิบัติตามเท่านั้น แต่ยังทำให้ผู้ฟ้องร้องชนะคดีอีกด้วย

อคติจากระบบอัตโนมัติสมควรได้รับการกล่าวถึงเป็นพิเศษ เพราะเป็นจุดที่การกำกับดูแลล้มเหลวอย่างเงียบๆ ผู้ตรวจสอบที่อนุมัติเกือบทุกอย่างที่ระบบเสนอมานั้นไม่ได้ทำหน้าที่กำกับดูแล และองค์กรที่วัดผลการทำงานของพนักงานจากปริมาณงานนั้น เท่ากับได้ออกแบบผลลัพธ์นั้นขึ้นมาแล้ว คำถามทางกฎหมายคือว่ามีการตัดสินใจโดยมนุษย์อย่างแท้จริงหรือไม่ และการประทับตราอนุมัติโดยไม่ตรวจสอบนั้นไม่เพียงพอ

ในกรณีที่ผู้ใช้ไม่สามารถส่งต่อความเสี่ยงได้

มีสามประเด็นที่มักสร้างความประหลาดใจให้กับองค์กรที่คิดว่าความเสี่ยงนั้นตกอยู่กับซัพพลายเออร์

ประการแรก สำหรับบุคคลที่สามที่ได้รับความเสียหาย ผู้ใช้คือฝ่ายที่มองเห็นได้ ลูกค้าที่ถูกปฏิเสธเครดิต พนักงานที่ถูกปฏิเสธโดยเครื่องมือคัดกรอง ผู้ป่วยที่ได้รับการคัดกรองผิดพลาด: พวกเขาทำสัญญากับ หรือได้รับการปฏิบัติจากผู้ให้บริการ และพวกเขาจะฟ้องร้องผู้ให้บริการนั้น ส่วนผู้ให้บริการจะสามารถเรียกร้องค่าเสียหายจากผู้จัดหาได้หรือไม่นั้นเป็นอีกคำถามหนึ่งที่ขึ้นอยู่กับสัญญา และไม่ได้ทำให้การเรียกร้องค่าเสียหายล่าช้าออกไป

ประการที่สอง กฎระเบียบว่าด้วยการคุ้มครองข้อมูลส่วนบุคคลทั่วไปมีผลบังคับใช้โดยอิสระจากสิ่งอื่นใด หากระบบประมวลผลข้อมูลส่วนบุคคล ผู้ใช้งานระบบมักจะเป็นผู้ควบคุมข้อมูล ซึ่งรับผิดชอบต่อพื้นฐานทางกฎหมาย ความโปร่งใส การประเมินผลกระทบ และความปลอดภัย การตัดสินใจที่กระทำโดยวิธีการอัตโนมัติเพียงอย่างเดียวซึ่งก่อให้เกิดผลทางกฎหมายหรือส่งผลกระทบอย่างมีนัยสำคัญต่อบุคคลใดบุคคลหนึ่งนั้น อยู่ภายใต้กฎระเบียบที่แยกต่างหาก และให้สิทธิ์แก่บุคคลนั้นในการขอให้มนุษย์เข้ามาแทรกแซงและโต้แย้งผลลัพธ์ บทสรุปภาพรวมของกฎระเบียบว่าด้วยการคุ้มครองข้อมูลส่วนบุคคลทั่วไป ของเรา ได้อธิบายถึงระบอบดังกล่าวไว้แล้ว

ประการที่สาม การแก้ไขเปลี่ยนแปลงบทบาทของคุณ ผู้ใช้งานที่ใส่ชื่อของตนเองลงในระบบ เปลี่ยนวัตถุประสงค์การใช้งาน หรือแก้ไขระบบอย่างมีนัยสำคัญ จะกลายเป็นผู้ให้บริการภายใต้พระราชบัญญัติ AI และรับช่วงต่อภาระผูกพันของผู้ให้บริการ การปรับแต่งแบบจำลองทั่วไปให้เป็นเครื่องมือคัดกรองสำหรับการตัดสินใจที่อยู่ภายใต้การกำกับดูแล ถือเป็นขั้นตอนที่ก้าวข้ามเส้นแบ่งนั้นอย่างชัดเจน องค์กรที่สร้างบนแบบจำลองของผู้อื่นควรระบุว่าตนเองอยู่ฝ่ายใดก่อนที่จะเปิดตัว ไม่ใช่หลังจากเกิดเหตุการณ์ขึ้นแล้ว

ตำแหน่งของผู้ผลิต

ความรับผิดของผู้ผลิตนั้นแตกต่างออกไป และเข้มงวดกว่า ความรับผิดต่อผลิตภัณฑ์ภายใต้มาตรา 6:185 และมาตราต่อๆ ไปของประมวลกฎหมายแพ่ง กำหนดให้ผู้ผลิตต้องรับผิดชอบต่อความเสียหายที่เกิดจากข้อบกพร่องในผลิตภัณฑ์ของตน โดยที่ผู้เสียหายไม่จำเป็นต้องพิสูจน์ความผิด ผลิตภัณฑ์มีข้อบกพร่องเมื่อผลิตภัณฑ์นั้นไม่ให้ความปลอดภัยที่บุคคลพึงคาดหวัง โดยคำนึงถึงลักษณะภายนอก การใช้งานที่คาดหวังได้อย่างสมเหตุสมผล และระยะเวลาที่นำออกจำหน่าย ผู้เรียกร้องต้องพิสูจน์ความเสียหาย ข้อบกพร่อง และความเชื่อมโยงเชิงสาเหตุระหว่างกัน ซึ่งในคดีเกี่ยวกับปัญญาประดิษฐ์ (AI) นี่คือจุดที่การต่อสู้ที่แท้จริงเกิดขึ้น

ระบอบนี้มีข้อจำกัดที่กำหนดไว้ การเรียกร้องต้องยื่นภายในสามปีนับจากวันที่ผู้เสียหายทราบ หรือควรจะทราบถึงความเสียหาย ข้อบกพร่อง และตัวตนของผู้ผลิต และสิทธิ์จะหมดอายุลงสิบปีหลังจากที่ผลิตภัณฑ์นั้นถูกนำออกสู่ตลาด ความรับผิดภายใต้ระบอบนี้ไม่สามารถยกเว้นหรือจำกัดโดยสัญญาได้ และครอบคลุมถึงการเสียชีวิต การบาดเจ็บทางร่างกาย และความเสียหายต่อทรัพย์สินอื่นที่ใช้ส่วนตัว โดยมีเกณฑ์ขั้นต่ำที่กำหนดไว้ ผู้ผลิตมีข้อแก้ตัวที่จำกัด รวมถึงข้อแก้ตัวเรื่องความเสี่ยงในการพัฒนา ซึ่งใช้ได้ในกรณีที่ความรู้ทางวิทยาศาสตร์และเทคนิคในขณะที่ผลิตภัณฑ์ออกสู่ตลาดนั้นไม่สามารถเปิดเผยข้อบกพร่องได้

การปฏิรูปที่เปลี่ยนแปลงสถานะของซอฟต์แวร์

ภายใต้กฎหมายของเนเธอร์แลนด์ในปัจจุบัน ผลิตภัณฑ์ถือเป็นสิ่งของที่เคลื่อนย้ายได้ และประเด็นที่ว่าซอฟต์แวร์แบบสแตนด์อะโลนเข้าข่ายหรือไม่นั้นเป็นที่ถกเถียงกันมานานหลายปีแล้ว แต่ข้อโต้แย้งนั้นกำลังจะยุติลง คำสั่งแก้ไขว่าด้วยความรับผิดต่อผลิตภัณฑ์ (Directive (EU) 2024/2853) มีผลบังคับใช้เมื่อวันที่ 8 ธันวาคม 2024 และจะต้องนำไปปรับใช้ในกฎหมายภายในประเทศภายในวันที่ 9 ธันวาคม 2026 โดยมีผลบังคับใช้กับผลิตภัณฑ์ที่วางจำหน่ายหรือเริ่มใช้งานหลังจากวันที่ดังกล่าว ดังนั้นบทบัญญัติปัจจุบันของประมวลกฎหมายแพ่งจึงยังคงใช้บังคับกับผลิตภัณฑ์ที่วางจำหน่ายก่อนหน้านั้น มีการเปลี่ยนแปลงสี่ประการที่สำคัญต่อความรับผิดของระบบ AI

ซอฟต์แวร์ รวมถึงระบบ AI และไฟล์การผลิตดิจิทัล ถือเป็นผลิตภัณฑ์โดยชัดแจ้ง ขอบเขตความรับผิดชอบขยายออกไปนอกเหนือจากผู้ผลิต โดยรวมถึงบุคคลที่แก้ไขผลิตภัณฑ์อย่างมีนัยสำคัญซึ่งอยู่นอกเหนือการควบคุมของผู้ผลิต ตัวแทนที่ได้รับอนุญาต ผู้นำเข้า และในบางกรณี ผู้ให้บริการจัดส่ง และแพลตฟอร์มออนไลน์ ความเสียหายที่สามารถเรียกร้องค่าชดเชยได้ขยายไปถึงการทำลายหรือความเสียหายของข้อมูลที่ไม่ถูกนำไปใช้ในเชิงวิชาชีพ ซึ่งเป็นความเสียหายประเภทหนึ่งที่เกิดขึ้นจริงจากความล้มเหลวของซอฟต์แวร์ และผลิตภัณฑ์อาจมีข้อบกพร่องเนื่องจากสิ่งที่เกิดขึ้นหลังจากวางจำหน่ายในตลาดแล้ว เช่น ข้อบกพร่องในการอัปเดตซอฟต์แวร์ที่จำเป็น ความล้มเหลวในการจัดหาการอัปเดตด้านความปลอดภัย หรือผลกระทบจากการเรียนรู้อย่างต่อเนื่องในกรณีที่ผู้ผลิตยังคงควบคุมอยู่

การปฏิรูปนี้ยังแก้ไขปัญหาเรื่องหลักฐานโดยตรงด้วย ศาลสามารถสั่งให้จำเลยเปิดเผยหลักฐานที่เกี่ยวข้องตามคำขอของผู้ร้อง และหากจำเลยไม่ปฏิบัติตาม ก็จะสันนิษฐานได้ว่ามีข้อบกพร่อง การสันนิษฐานเรื่องข้อบกพร่องและความสัมพันธ์เชิงสาเหตุที่สามารถหักล้างได้นั้น จะใช้ได้ในกรณีที่ผู้ร้องประสบปัญหาอย่างมากในการพิสูจน์เนื่องจากความซับซ้อนทางเทคนิคหรือทางวิทยาศาสตร์ โดยที่ผู้ร้องต้องทำให้ความเป็นไปได้นั้นสมเหตุสมผล สำหรับผู้ร้องที่เผชิญกับแบบจำลองที่ไม่มีใครสามารถอธิบายได้อย่างครบถ้วน นั่นคือความแตกต่างระหว่างคดีที่สามารถโต้แย้งได้กับคดีที่เป็นไปไม่ได้

สัญญา ความสอดคล้อง และขอบเขตของข้อกำหนดการยกเว้นความรับผิด

ระหว่างภาคธุรกิจ สนามรบแรกมักจะเป็นสัญญามากกว่ากฎหมาย ผู้จัดจำหน่ายระบบ AI มีหน้าที่ต้องปฏิบัติตามข้อตกลง: ระบบที่ส่งมอบต้องตรงกับสัญญาและมีคุณสมบัติที่ผู้ซื้อมีสิทธิ์คาดหวัง หากผู้จัดจำหน่ายสัญญาเรื่องระดับความแม่นยำ ระดับความพร้อมใช้งาน หรือการปฏิบัติตามกฎหมาย AI การไม่ส่งมอบตามสัญญาถือเป็นการผิดสัญญา และจะมีการดำเนินการแก้ไขตามปกติ เช่น การปฏิบัติตามสัญญา การชดเชยความเสียหาย และการเลิกสัญญา หลังจากได้รับหนังสือแจ้งการผิดสัญญาอย่างถูกต้อง

ผู้จำหน่ายมักตอบกลับด้วยข้อจำกัดและข้อยกเว้น ซึ่งโดยทั่วไปแล้วข้อกำหนดเหล่านั้นจะมีผลบังคับใช้ระหว่างคู่ค้าทางธุรกิจ ข้อกำหนดเหล่านั้นไม่ได้ครอบคลุมอย่างไม่จำกัด ข้อกำหนดอาจถูกยกเลิกได้หากการพึ่งพาข้อกำหนดนั้นไม่เป็นที่ยอมรับตามมาตรฐานของความสมเหตุสมผลและความยุติธรรม ซึ่งเป็นแนวทางที่ศาลใช้ในกรณีที่ผู้จำหน่ายประมาทเลินเล่อโดยเจตนาหรือมีความผิดร้ายแรง และหากข้อกำหนดนั้นเป็นไปในลักษณะทั่วไป อาจไม่มีผลบังคับใช้หากอีกฝ่ายไม่เคยได้รับโอกาสที่แท้จริงในการพิจารณาข้อกำหนดเหล่านั้น ความรับผิดภายใต้กฎหมายความรับผิดต่อผลิตภัณฑ์ไม่สามารถยกเว้นได้โดยสิ้นเชิงต่อฝ่ายที่ได้รับความเสียหาย ในทางปฏิบัติ การเจรจาต่อรองจะเกี่ยวกับการกำหนดวงเงินสูงสุด ข้อยกเว้นสำหรับการละเมิดข้อมูลและการละเมิดทรัพย์สินทางปัญญา การชดเชยค่าปรับตามกฎหมาย และภาระผูกพันของผู้จำหน่ายในการจัดหาเอกสารและบันทึกที่ลูกค้าต้องการเพื่อใช้ในการปกป้องตนเอง หน้าเว็บของเราเกี่ยวกับข้อเรียกร้องค่าเสียหายจะอธิบายวิธีการสร้างข้อเรียกร้องเหล่านั้น

สิ่งที่พระราชบัญญัติ AI ครอบคลุมและไม่ครอบคลุม

พระราชบัญญัติปัญญาประดิษฐ์ (AI Act) เป็นเครื่องมือทางกฎหมายที่ควบคุมดูแลผู้ให้บริการและผู้ใช้งาน และให้อำนาจแก่ผู้กำกับดูแลในการบังคับใช้ แต่ไม่ได้สร้างสิทธิในการเรียกร้องค่าชดเชยสำหรับบุคคลที่ได้รับอันตรายจากระบบ AI ร่างคำสั่งว่าด้วยความรับผิดต่อ AI (AI Liability Directive) ซึ่งจะทำให้การเรียกร้องค่าเสียหายทางแพ่งเป็นไปในทิศทางเดียวกัน และนำมาซึ่งการเปิดเผยข้อมูลและข้อสันนิษฐานโดยทั่วไป ได้ถูกถอนออกไปแล้ว สิ่งที่ยังคงอยู่คือการผสมผสานดังที่กล่าวมาข้างต้น ได้แก่ กฎหมายละเมิดและกฎหมายสัญญาของแต่ละประเทศ บวกกับระบบความรับผิดต่อผลิตภัณฑ์ที่ได้รับการปฏิรูปแล้ว

นั่นไม่ได้ทำให้กฎหมาย AI ไม่เกี่ยวข้องกับความรับผิดชอบ กฎหมายนี้มีความสำคัญในสามด้าน ประการแรก มันกำหนดมาตรฐานการดูแลรักษา ดังนั้นการไม่ปฏิบัติตามจึงเป็นหลักฐานของการประมาทเลินเล่อ ประการที่สอง มันสร้างเอกสาร เพราะเอกสารทางเทคนิค คำแนะนำการใช้งาน บันทึกต่างๆ และไฟล์การตรวจสอบหลังการขาย ล้วนมีอยู่ตามกฎหมายและสามารถเรียกร้องได้ในกระบวนการพิจารณาคดี และประการที่สาม มันกำหนดบทบาท ดังนั้นคำถามที่ว่าใครคือผู้ให้บริการและใครคือผู้ติดตั้ง ซึ่งเคยเป็นประเด็นถกเถียง ตอนนี้มีคำตอบทางกฎหมายแล้วสำนักงานกฎหมายด้านไอที ของเรา จัดการกับคำถามเกี่ยวกับการจำแนกประเภทเหล่านี้ก่อนที่จะกลายเป็นข้อพิพาท

จุดที่ผู้ใช้และผู้ผลิตมาพบกัน

อุบัติเหตุส่วนใหญ่ไม่ได้เกิดจากความล้มเหลวเพียงจุดเดียวที่ปลายด้านใดด้านหนึ่งของห่วงโซ่ แต่เกิดจากแบบจำลองที่ฝึกฝนด้วยข้อมูลที่ไม่เป็นตัวแทนของประชากรที่นำไปใช้ ถูกรวมเข้าโดยผู้จัดจำหน่ายที่ไม่ได้ทดสอบในบริบทนั้น ถูกนำไปใช้โดยองค์กรที่ใช้เพื่อวัตถุประสงค์ที่คู่มือการใช้งานไม่ได้ระบุไว้ และถูกใช้งานโดยพนักงานที่ไม่เคยได้รับแจ้งถึงข้อจำกัดของแบบจำลองนั้น กฎหมายของเนเธอร์แลนด์ไม่มีปัญหาในเรื่องนี้: หลายฝ่ายสามารถรับผิดชอบต่อความเสียหายเดียวกันได้ แต่ละฝ่ายต้องรับผิดชอบทั้งหมดต่อฝ่ายที่ได้รับความเสียหาย และหลังจากนั้นจะตกลงกันเองเกี่ยวกับการแบ่งความรับผิดชอบภายในตามสัดส่วนของแต่ละฝ่าย

ตารางด้านล่างแสดงให้เห็นว่าโดยทั่วไปแล้วใครเป็นผู้รับผิดชอบและบนพื้นฐานใด

กรณีสวัสดิการดูแลเด็กของเนเธอร์แลนด์เป็นจุดอ้างอิงที่ทุกการอภิปรายในเนเธอร์แลนด์หวนกลับมาพูดถึง และมันแสดงให้เห็นถึงรูปแบบมากกว่าหลักนิติธรรม นั่นคือ ระบบการจำแนกความเสี่ยงที่ไม่โปร่งใส การตัดสินใจโดยอาศัยผลลัพธ์จากระบบโดยปราศจากการประเมินรายบุคคลอย่างแท้จริง และผลที่ตามมาตกอยู่กับผู้ที่ได้รับผลกระทบโดยตรง ผลทางกฎหมายที่เกิดขึ้นนั้นเป็นเรื่องการบริหารและการเมืองมากกว่าอาชญากรรม และเราจะกล่าวถึงสิ่งที่กรณีนี้แสดงให้เห็นและไม่แสดงให้เห็นเกี่ยวกับความรับผิดทางอาญาในบทความของเราเรื่องAI และกฎหมายอาญา

ปัญหาเรื่องหลักฐาน และการเปลี่ยนแปลงของปัญหาดังกล่าว

ไม่ว่าใครจะเป็นผู้ยื่นฟ้องก็ต้องพิสูจน์ให้ได้ และในกรณีที่เกี่ยวข้องกับ AI การพิสูจน์เป็นเรื่องยากมาก ผู้ฟ้องต้องแสดงให้เห็นว่าระบบทำอะไร ทำไมจึงผิด และความผิดพลาดนั้นก่อให้เกิดความเสียหาย ข้อมูลที่จำเป็นในการพิสูจน์นั้นอยู่ที่ฝ่ายจำเลย และในแบบจำลองที่ซับซ้อน การสร้างข้อมูลขึ้นมาใหม่แม้กระทั่งภายในองค์กรเอง ก็อาจเป็นเรื่องยากอย่างแท้จริง

การเปลี่ยนแปลงสามประการกำลังเปลี่ยนสมดุลนั้น การบันทึกข้อมูลกลายเป็นข้อกำหนดทางกฎหมายสำหรับระบบที่มีความเสี่ยงสูง ดังนั้นบันทึกที่เคยเป็นทางเลือกจึงต้องมีอยู่ การเปิดเผยหลักฐานในคดีความรับผิดต่อผลิตภัณฑ์สามารถทำได้ภายใต้ระบอบการปฏิรูป โดยได้รับการสนับสนุนจากข้อสันนิษฐานว่าผลิตภัณฑ์มีข้อบกพร่องหากจำเลยไม่ปฏิบัติตาม และกระบวนการทางแพ่งของเนเธอร์แลนด์อนุญาตให้ฝ่ายใดฝ่ายหนึ่งเรียกร้องให้มีการผลิตเอกสารที่ระบุไว้โดยเฉพาะซึ่งตนมีผลประโยชน์โดยชอบธรรม ซึ่งมักใช้ในการขอรายงานการทดสอบ บันทึกเหตุการณ์ และการประเมินความเสี่ยงภายใน

สำหรับจำเลย ข้อสรุปในทางปฏิบัติอาจไม่น่าสบายใจนัก แต่ก็ชัดเจน: เอกสารที่คุณเก็บรักษาไว้คือเอกสารที่จะถูกนำมาอ่านเป็นหลักฐานต่อคุณ และเอกสารที่คุณไม่ได้เก็บรักษาไว้ก็จะถูกนำมาใช้เป็นหลักฐานต่อคุณเช่นกัน บันทึกการทดสอบ ข้อจำกัดที่ทราบ เหตุการณ์ และวิธีการจัดการที่ครบถ้วน ถูกต้อง และมีวันที่กำกับ คือหลักฐานที่แข็งแกร่งที่สุด เพราะแสดงให้เห็นว่าองค์กรได้ใช้ดุลยพินิจมากกว่าที่จะหวังให้ทุกอย่างเป็นไปด้วยดี ในกรณีที่เหตุการณ์นั้นมีมิติทางอาญาด้วย เช่น การเข้าถึงระบบโดยไม่ได้รับอนุญาต หรือการเปลี่ยนแปลงข้อมูล กรอบกฎหมายอาญาสำหรับอาชญากรรมทางคอมพิวเตอร์และอาชญากรรมทางไซเบอร์ในเนเธอร์แลนด์จะถูกนำมาใช้ควบคู่ไปกับการเรียกร้องทางแพ่ง และการสืบสวนทางอาญาจะยึดวัสดุเดียวกันนั้นอย่างแน่นอน

ระบบอัตโนมัติในโลกทางกายภาพ

ในกรณีที่ระบบ AI ควบคุมการขับขี่ยานพาหนะ บังคับโดรน หรือเคลื่อนแขนหุ่นยนต์ จะมีการกำหนดความรับผิดชอบเพิ่มเติม ซึ่งโดยทั่วไปแล้วจะเข้มงวดกว่าที่กล่าวมาทั้งหมด ความเสียหายทางกายภาพจะอยู่ภายใต้ความรับผิดชอบด้านความเสี่ยง ซึ่งไม่ได้พิจารณาว่าใครประมาทเลินเล่อหรือไม่

สำหรับยานยนต์ มาตรา 185 แห่งพระราชบัญญัติจราจรทางบก พ.ศ. 1994 กำหนดให้เจ้าของหรือผู้ครอบครองยานยนต์ต้องรับผิดชอบต่อความเสียหายที่เกิดขึ้นกับคนเดินเท้าและผู้ขับขี่จักรยาน เว้นแต่จะมีเหตุสุดวิสัย ซึ่งเป็นมาตรฐานที่ยากมากที่จะปฏิบัติตาม กฎดังกล่าวไม่คำนึงถึงว่าผู้ขับขี่เป็นมนุษย์หรือระบบช่วยขับขี่ ผู้ครอบครองยานยนต์ต้องรับผิดชอบก่อน และการเรียกร้องค่าเสียหายจากผู้ผลิตซอฟต์แวร์จะตามมาภายหลัง การทดสอบยานยนต์ขับเคลื่อนอัตโนมัติอย่างแท้จริงบนถนนสาธารณะต้องได้รับอนุญาตภายใต้กฎหมายการทดลองของเนเธอร์แลนด์ และเงื่อนไขที่แนบมากับใบอนุญาตนั้น รวมถึงการมีอยู่และบทบาทของผู้ควบคุมดูแล จะกลายเป็นส่วนหนึ่งของมาตรฐานการดูแล

อากาศยานไร้คนขับอยู่ภายใต้ข้อบังคับโดรนของยุโรป โดยมีการลงทะเบียนผู้ประกอบการและข้อกำหนดที่ขึ้นอยู่กับประเภทของโดรน ซึ่งในเนเธอร์แลนด์บริหารจัดการโดย Rijksinspectie Digitale Infrastructuur ผู้ประกอบการที่บินนอกเหนือประเภทที่กำหนด หรือไม่มีความสามารถที่จำเป็น ไม่เพียงแต่ละเมิดกฎการบินเท่านั้น แต่ยังก้าวออกไปจากขอบเขตความระมัดระวังที่ศาลจะพิจารณา ซึ่งเป็นการตัดสินประเด็นเรื่องความประมาทก่อนที่การถกเถียงทางเทคนิคเกี่ยวกับระบบควบคุมการบินอัตโนมัติจะเริ่มต้นขึ้นด้วยซ้ำ

นอกเหนือจากกฎหมายเหล่านี้แล้ว ยังมีกฎทั่วไปเกี่ยวกับวัตถุที่ชำรุดเสียหาย ผู้ครอบครองสิ่งของที่เคลื่อนย้ายได้ซึ่งไม่เป็นไปตามมาตรฐานที่กำหนดไว้ และก่อให้เกิดอันตรายเป็นพิเศษ จะต้องรับผิดชอบต่อความเสียหายที่เกิดจากอันตรายนั้น กฎนี้ครอบคลุมถึงเครื่องจักรด้วย แม้ว่าความผิดพลาดพื้นฐานจะอยู่ที่ซอฟต์แวร์ ซึ่งเป็นเหตุผลหนึ่งที่เจ้าของหุ่นยนต์อุตสาหกรรมหรือระบบคลังสินค้าอัตโนมัติไม่สามารถกล่าวโทษผู้ขายได้โดยตรง ในกรณีที่กฎหมายความรับผิดต่อผลิตภัณฑ์มีผลบังคับใช้ ระบบทั้งสองจะทำงานร่วมกัน และโดยปกติแล้วผู้เสียหายจะเลือกเส้นทางที่ง่ายที่สุดในการพิสูจน์

ผลที่ตามมาในทางปฏิบัติสำหรับองค์กรที่ใช้งานเครื่องจักรที่มีฟังก์ชันการทำงานแบบอัตโนมัติคือ การประกันภัยและสัญญาจะต้องจัดทำขึ้นโดยยึดหลักความรับผิดโดยไม่คำนึงถึงความผิด ไม่ใช่โดยพิจารณาจากความผิดพลาด การเรียกร้องค่าเสียหายจากผู้จำหน่ายนั้นเป็นสิ่งที่ควรมี แต่ก็ไม่ได้หมายความว่าจะไม่ถูกเรียกร้องค่าเสียหายจากผู้จำหน่ายก่อน

ลดความเสี่ยงจากทั้งสองฝ่าย

มาตรการที่ช่วยลดความรับผิดชอบของระบบ AI คือมาตรการเดียวกันกับที่ทำให้ระบบทำงานได้อย่างถูกต้อง ซึ่งเป็นเหตุผลว่าทำไมจึงคุ้มค่าที่จะดำเนินการไม่ว่ากำหนดการกำกับดูแลจะเป็นอย่างไรก็ตาม

สำหรับองค์กรที่กำลังจะติดตั้งระบบ ให้เริ่มต้นด้วยการสำรวจระบบ: ระบบใดบ้างที่ใช้งานอยู่ ใครเป็นผู้จัดหา ระบบเหล่านั้นตัดสินใจหรือมีอิทธิพลต่ออะไร และใครเป็นผู้ใช้งาน กำหนดบทบาทของคุณสำหรับแต่ละระบบ เพราะหน้าที่ของผู้จัดหาและผู้ใช้งานนั้นแตกต่างกัน จากนั้นเขียนวัตถุประสงค์ที่ตั้งใจไว้และใช้ให้อยู่ในกรอบนั้น สาเหตุที่พบบ่อยที่สุดของความรับผิดที่สามารถหลีกเลี่ยงได้คือการใช้เครื่องมือในสิ่งที่ไม่ได้รับการตรวจสอบความถูกต้อง ให้สิทธิ์แก่ผู้ใช้งานระบบในการแก้ไขระบบอย่างแท้จริง และประเมินพวกเขาจากวิจารณญาณมากกว่าปริมาณงาน เก็บรักษาบันทึกต่างๆ และเก็บไว้ให้นานพอที่จะเป็นประโยชน์ในกรณีพิพาท บันทึกเหตุการณ์ต่างๆ รวมถึงเหตุการณ์ที่เกือบจะเกิดอันตราย และบันทึกสิ่งที่ได้ดำเนินการแก้ไข

สำหรับผู้ผลิตหรือผู้จำหน่าย รายการที่เทียบเท่ากันนี้จะครอบคลุมตลอดวงจรชีวิตของผลิตภัณฑ์ ได้แก่ การจัดการความเสี่ยงที่จัดทำเป็นเอกสาร การกำกับดูแลข้อมูลที่สามารถอธิบายให้หน่วยงานกำกับดูแลเข้าใจได้ การทดสอบกับกลุ่มประชากรที่จะใช้ระบบจริง คำแนะนำในการใช้งานที่ระบุข้อจำกัดและอัตราข้อผิดพลาดอย่างตรงไปตรงมา แทนที่จะเน้นการสร้างความมั่นใจ ช่องทางให้ลูกค้าแจ้งปัญหา และนโยบายการอัปเดตที่ระบุว่าใครเป็นผู้รับผิดชอบในการแก้ไขช่องโหว่ด้านความปลอดภัยและเป็นเวลานานเท่าใด ระบบความรับผิดต่อผลิตภัณฑ์ที่ได้รับการปรับปรุงใหม่ทำให้ประเด็นสุดท้ายนี้ชัดเจนยิ่งขึ้นกว่าเดิม กล่าวคือ การไม่จัดหาการอัปเดตตามที่ตกลงไว้ อาจทำให้ผลิตภัณฑ์นั้นมีข้อบกพร่องได้

ทั้งสองฝ่ายควรพิจารณาสัญญาฉบับนี้ในฐานะการจัดสรรความเสี่ยงมากกว่าเป็นเพียงพิธีการ ข้อกำหนดที่สำคัญได้แก่ คำอธิบายวัตถุประสงค์ที่ตั้งใจไว้ การรับประกันเกี่ยวกับการปฏิบัติตามและประสิทธิภาพ ข้อผูกพันในการส่งมอบเอกสารและบันทึก การแจ้งเหตุการณ์ที่เกิดขึ้นทั้งสองฝ่าย วงเงินความรับผิดและข้อยกเว้น การชดเชยสำหรับการเรียกร้องจากบุคคลที่สามและค่าปรับจากหน่วยงานกำกับดูแล และข้อตกลงการยุติสัญญาที่กำหนดว่าจะเกิดอะไรขึ้นกับแบบจำลองและข้อมูลหากความสัมพันธ์สิ้นสุดลง วงเงินความรับผิดที่เจรจาไว้ในเชิงนามธรรมโดยไม่คำนึงถึงสิ่งที่ระบบตัดสินใจจริงนั้นไม่สามารถปกป้องใครได้

สุดท้ายนี้ แม้ว่าความเสี่ยงในทันทีจะเป็นเรื่องทางแพ่งก็ตาม ควรคำนึงถึงความเสี่ยงทางอาญาด้วย การดำเนินคดีกับบริษัทเนื่องจากความล้มเหลวของ AI ยังคงไม่บ่อยนัก แต่องค์ประกอบต่างๆ นั้นเป็นเรื่องปกติ ได้แก่ หน้าที่ การละเมิด ความเสียหายที่คาดการณ์ได้ และองค์กรที่สามารถแสดงให้เห็นว่ายอมรับความเสี่ยงนั้นแล้ว หากระบบถูกนำไปใช้ในสิ่งที่ผิดกฎหมายอย่างชัดเจน หรือบริษัทยังคงใช้งานระบบที่รู้ว่าก่อให้เกิดความเสียหาย เส้นทางทางอาญาก็เปิดกว้าง และการวิเคราะห์อย่างละเอียดได้อธิบายไว้ในบทความของเราเกี่ยวกับกฎหมายอาญาของเนเธอร์แลนด์และบทความที่เกี่ยวข้องเกี่ยวกับอัลกอริทึมและความรับผิดทางอาญา

คำถามที่พบบ่อย

Law & More ให้คำแนะนำแก่องค์กรที่สร้างระบบ AI และองค์กรที่ใช้งานระบบ AI เกี่ยวกับการจัดสรรความเสี่ยงในสัญญา การจำแนกประเภทและหน้าที่ภายใต้พระราชบัญญัติ AI และการป้องกันหรือการฟ้องร้องเมื่อระบบก่อให้เกิดความเสียหาย หากระบบ AI ในองค์กรของคุณได้ทำการตัดสินใจและกำลังถูกท้าทาย โปรดติดต่อเราเพื่อให้เราสามารถประเมินสถานการณ์ได้อย่างรวดเร็ว