AI และกฎหมายอาญา: อัลกอริทึมสามารถรับผิดชอบได้บางส่วนหรือไม่?

ภายใต้กฎหมายของเนเธอร์แลนด์และยุโรป อัลกอริทึมไม่สามารถรับผิดทางอาญาได้ ความรับผิดทางอาญาต้องมีผู้กระทำความผิดที่กฎหมายยอมรับว่าเป็นบุคคล และมาตรา 51 วรรค 4 ขยายสถานะดังกล่าวเฉพาะบุคคลธรรมดาและนิติบุคคลเท่านั้น ระบบ AI เป็นเพียงวัตถุ ไม่ใช่ผู้ต้องสงสัย ดังนั้นคำถามที่สำคัญในทางปฏิบัติจึงไม่ใช่ว่าอัลกอริทึมมีส่วนรับผิดชอบหรือไม่ แต่เป็นมนุษย์หรือบริษัทใดที่รับผิดชอบทั้งหมดต่อสิ่งที่มันกระทำ

คำถามนั้นมีคำตอบที่ชัดเจนอยู่แล้วในกฎหมายอาญาของเนเธอร์แลนด์ หลักการกระทำความผิดโดยหน้าที่ (functioneel daderschap) และความรับผิดทางอาญาขององค์กรถูกสร้างขึ้นมาเพื่อสถานการณ์เช่นนี้โดยเฉพาะ นั่นคือ ความเสียหายที่เกิดจากเครื่องมือ องค์กร หรือกระบวนการ แทนที่จะเกิดจากการกระทำของจำเลยเอง บทความนี้จะอธิบายว่าหลักการเหล่านั้นใช้กับ AI อย่างไร กฎหมาย AI ของสหภาพยุโรปเปลี่ยนแปลงมาตรฐานการดูแลอย่างไร ผลลัพธ์จากอัลกอริทึมได้รับการพิจารณาเป็นหลักฐานอย่างไร และการป้องกันและโปรแกรมการปฏิบัติตามควรมีลักษณะอย่างไร สำหรับคำถามที่กว้างขึ้นเกี่ยวกับการจัดสรรความรับผิดชอบตลอดห่วงโซ่อุปทานของนักพัฒนา ผู้ให้บริการ และผู้ใช้ โปรดดูบทความที่เกี่ยวข้องของเราเกี่ยวกับผู้รับผิดชอบเมื่อเครื่องจักรทำความผิด

เหตุใดอัลกอริทึมจึงไม่สามารถเป็นผู้ต้องสงสัยได้

ภายใต้กฎหมายดัตช์ ความผิดทางอาญาต้องเกิดจากการกระทำหรือการละเว้นการกระทำของมนุษย์ที่ตรงกับนิยามความผิดตามกฎหมาย เป็นการกระทำที่ผิดกฎหมาย และสามารถกล่าวโทษผู้กระทำได้ แต่ละองค์ประกอบนั้นตั้งอยู่บนสมมติฐานของผู้กระทำที่มีเจตจำนง แต่โปรแกรมคอมพิวเตอร์สร้างผลลัพธ์โดยการเรียกใช้โค้ดกับข้อมูล มันไม่มีเจตจำนงที่จะสร้าง ไม่มีอะไรให้ต้องตำหนิ และไม่มีสิ่งใดที่การลงโทษทางอาญาจะครอบคลุมได้ มาตรา 51 วรรค 4 เปิดโอกาสให้บริษัทควบคู่ไปกับบุคคลได้ก็เพราะบริษัทดำเนินการผ่านบุคคล ไม่มีบทบัญญัติที่เทียบเคียงได้สำหรับซอฟต์แวร์ และการสร้างบทบัญญัติดังกล่าวจะต้องให้ฝ่ายนิติบัญญัติคิดค้นนิติบุคคลประเภทใหม่ขึ้นมา

อีกทั้งการกระทำเช่นนั้นก็ไม่มีประโยชน์ใดๆ ตามที่กฎหมายอาญาให้การยอมรับ คำพิพากษามีไว้เพื่อลงโทษ เพื่อยับยั้ง และเพื่อแก้ไขเท่าที่จะเป็นไปได้ ซึ่งฟังก์ชันเหล่านั้นไม่สามารถทำได้กับแบบจำลอง การลบน้ำหนักของโครงข่ายประสาทเทียมเป็นการลงโทษเจ้าของ ไม่ใช่โครงข่าย ทุกสิ่งที่กฎหมายอาญาต้องการบรรลุเมื่อระบบ AI ก่อให้เกิดอันตรายนั้น ต้องบรรลุผ่านทางบุคคลและองค์กรที่อยู่เบื้องหลัง ซึ่งเป็นเหตุผลว่าทำไมแนวปฏิบัติของเนเธอร์แลนด์จึงไม่ถือว่านี่เป็นช่องโหว่ในกฎหมาย

ตารางด้านล่างแสดงให้เห็นถึงความไม่สอดคล้องกันระหว่างองค์ประกอบของความผิดทางอาญาและสิ่งที่ระบบ AI เป็นอยู่จริง

ใครเป็นผู้รับผิดชอบแทน: การกระทำที่ก่อให้เกิดความเสียหายและมาตรา 51 วรรค 5

กฎหมายอาญาของเนเธอร์แลนด์มีกลไกสองอย่างในการลงโทษผู้ที่กระทำการที่ตนไม่ได้กระทำด้วยตนเอง กลไกทั้งสองนี้ได้รับการพัฒนามานานก่อนที่เทคโนโลยีการเรียนรู้ของเครื่องจักรจะเกิดขึ้น และทั้งสองอย่างสามารถนำมาใช้กับคดีที่เกี่ยวข้องกับปัญญาประดิษฐ์ได้โดยไม่ต้องดัดแปลงแก้ไข

การกระทำที่ก่อให้เกิดประโยชน์

Functioneel daderschap อนุญาตให้บุคคลหนึ่งถูกมองว่าเป็นผู้กระทำความผิดในคดีที่ผู้อื่นหรือสิ่งอื่นเป็นผู้ลงมือกระทำ เกณฑ์ที่ศาลฎีกากำหนดไว้ในคำพิพากษา IJzerdraad ยังคงเป็นหลักเกณฑ์ในการพิจารณาคดี กล่าวคือ จำเลยต้องมีอำนาจในการตัดสินใจว่าจะกระทำการนั้นหรือไม่ (beschikken) และต้องยอมรับการกระทำนั้น หรือเคยยอมรับการกระทำในลักษณะนั้นเป็นประจำ (aanvaarden)

เมื่อนำมาใช้กับระบบ AI เกณฑ์แรกมักจะตรงไปตรงมา และเกณฑ์ที่สองจะเป็นตัวตัดสินกรณีนั้น อำนาจในการกำจัดแสดงให้เห็นได้จากความสามารถในการกำหนดค่าระบบ การตั้งขีดจำกัดการทำงาน การอัปเดตหรือการฝึกฝนใหม่ และเหนือสิ่งอื่นใดคือการปิดระบบ ผู้ปฏิบัติงานน้อยรายนักที่จะกล่าวได้อย่างน่าเชื่อถือว่าตนเองขาดอำนาจนั้น การยอมรับเป็นคำถามที่ยากกว่า และเป็นส่วนที่ต้องพิจารณาหลักฐาน: ผู้ปฏิบัติงานรู้เกี่ยวกับโหมดความล้มเหลวของระบบมากน้อยเพียงใด มีรายงานอะไรบ้างจากการทดสอบหรือเหตุการณ์ก่อนหน้านี้ การประเมินความเสี่ยงกล่าวไว้อย่างไร และมีการดำเนินการอย่างไรบ้าง การยอมรับไม่จำเป็นต้องหมายถึงความปรารถนาในผลลัพธ์ เพียงพอแล้วที่ผู้ปฏิบัติงานยอมรับความเสี่ยงที่สำคัญโดยรู้ตัว ซึ่งเป็นมาตรฐานทั่วไปของเนเธอร์แลนด์สำหรับเจตนาแบบมีเงื่อนไข (voorwaardelijk opzet)

ความรับผิดขององค์กรและภาวะผู้นำที่แท้จริง

ในกรณีที่ผู้ดำเนินการเป็นบริษัท ให้ใช้มาตรา 51 วรรค 4 ความผิดสามารถระบุได้ว่าเป็นความผิดของนิติบุคคลที่การกระทำเกิดขึ้นในขอบเขตอำนาจของตน ซึ่งศาลฎีกาได้อธิบายไว้ผ่านปัจจัยต่างๆ ที่ระบุไว้ในคำพิพากษาคดี Drijfmest ดังนี้ การกระทำนั้นกระทำโดยบุคคลที่ทำงานให้กับบริษัท การกระทำนั้นสอดคล้องกับธุรกิจปกติของบริษัท การกระทำนั้นเป็นประโยชน์ต่อบริษัท และบริษัทสามารถระบุได้ว่าการกระทำนั้นเกิดขึ้นและยอมรับ หรือเคยยอมรับการกระทำดังกล่าวเป็นประจำ ระบบ AI ที่บริษัทนำมาใช้ในการทำงานนั้นตรงตามเกณฑ์ส่วนใหญ่ในรายการดังกล่าวโดยนิยามอยู่แล้ว

มาตรา 51 วรรค 4 ยังอนุญาตให้ดำเนินคดีกับผู้ที่สั่งการให้กระทำความผิดและผู้ที่ให้การสนับสนุนการกระทำนั้นโดยตรง (feitelijk leidinggeven) นี่คือบทบัญญัติที่ส่งผลกระทบต่อกรรมการและผู้จัดการระดับสูงโดยตรง ซึ่งต้องมากกว่าแค่ตำแหน่งในแผนผังองค์กร: บุคคลนั้นต้องรับรู้ถึงการกระทำที่ต้องห้าม อย่างน้อยที่สุดในแง่ของการยอมรับโอกาสที่สำคัญว่าการกระทำนั้นกำลังเกิดขึ้น และต้องละเลยที่จะใช้มาตรการที่ตนมีอำนาจและมีหน้าที่ต้องทำอย่างสมเหตุสมผล ในกรณีของ AI นั้น หมายถึงหลักฐานเกี่ยวกับผู้ที่ได้รับรายงานการตรวจสอบความถูกต้องของแบบจำลอง ผู้ที่ลงนามอนุมัติการใช้งาน และผู้ที่ตัดสินใจว่าอคติหรืออัตราความผิดพลาดที่ทราบนั้นเป็นที่ยอมรับได้

ความผิดฐานประมาทเลินเล่อเป็นส่วนสำคัญที่ทำให้เกิดเรื่องนี้ขึ้น

ในทางปฏิบัติ การดำเนินคดีที่เกี่ยวข้องกับระบบอัตโนมัติมักจะตั้งอยู่บนพื้นฐานของความประมาทมากกว่าเจตนา หากยานพาหนะ เครื่องจักร หรืออุปกรณ์ทางการแพทย์ที่ขับเคลื่อนด้วย AI ทำให้เสียชีวิต ความผิดที่เกี่ยวข้องคือการทำให้เสียชีวิตโดยประมาทตามมาตรา 307 วรรค 4; หากทำให้ได้รับบาดเจ็บสาหัส มาตรา 308 วรรค 4 คำว่า "culpa" ในกฎหมายอาญาของเนเธอร์แลนด์หมายถึงความประมาทอย่างร้ายแรง ซึ่งพิจารณาจากสิ่งที่ผู้ปฏิบัติงานที่สมเหตุสมผลในสถานการณ์นั้นควรทำ นั่นคือพื้นฐานที่คดี AI จะถูกต่อสู้ เพราะมาตรฐานการดูแลสำหรับการใช้งานระบบอัตโนมัติได้รับการเขียนไว้มากขึ้นเรื่อยๆ ทั้งในพระราชบัญญัติ AI ในกฎระเบียบของภาคส่วน ในมาตรฐานทางเทคนิค และในขั้นตอนการปฏิบัติงานของผู้ประกอบการเอง การเบี่ยงเบนจากมาตรฐานที่ผู้ประกอบการเองนำมาใช้เป็นหลักฐานที่ชัดเจนที่สุดของความประมาท

การเลือกปฏิบัติเป็นประเภทที่สองที่เกิดขึ้นซ้ำๆ การเลือกปฏิบัติในการประกอบธุรกิจหรือวิชาชีพถือเป็นความผิดทางอาญาภายใต้กฎหมายอาญา และมีทั้งแบบเจตนาและแบบประมาทเลินเล่อ ดังนั้น รูปแบบที่ทำให้กลุ่มที่ได้รับการคุ้มครองเสียเปรียบอย่างเป็นระบบจึงไม่ใช่แค่ปัญหาทางด้านการบริหารภายใต้กฎหมายคุ้มครองข้อมูลและการปฏิบัติอย่างเท่าเทียมกันเท่านั้น แต่ในกรณีร้ายแรงยังเป็นความผิดทางอาญาอีกด้วย คู่มือเกี่ยวกับกระบวนการทางอาญาในเนเธอร์แลนด์ ของเรา จะอธิบายขั้นตอนการดำเนินคดีดังกล่าวตั้งแต่การสอบสวนไปจนถึงคำพิพากษา

กฎหมาย AI กำหนดมาตรฐานการดูแลรักษา ไม่ใช่บทลงโทษ

กฎหมายปัญญาประดิษฐ์ของ สหภาพยุโรป เป็นระเบียบข้อบังคับทางปกครอง ไม่ได้สร้างความผิดทางอาญาและไม่ได้ทำให้ใครเป็นผู้ต้องสงสัย ความสำคัญต่อความรับผิดทางอาญาเป็นไปโดยอ้อมและมีนัยสำคัญ กล่าวคือ กฎหมายนี้เขียนไว้เป็นข้อผูกมัดว่าผู้ให้บริการหรือผู้ใช้งานระบบปัญญาประดิษฐ์ที่รอบคอบควรปฏิบัติตนอย่างไร เมื่อมาตรฐานการดูแลได้รับการบัญญัติไว้แล้ว การเบี่ยงเบนจากมาตรฐานนั้นถือเป็นหลักฐานของการประมาทเลินเล่อ และการปฏิบัติตามมาตรฐานนั้นถือเป็นหลักฐานของการดูแลเอาใจใส่

กฎหมายฉบับนี้จัดประเภทระบบตามระดับความเสี่ยง มีแนวปฏิบัติเพียงเล็กน้อยที่ถูกห้ามอย่างเด็ดขาด เช่น การให้คะแนนทางสังคมโดยหน่วยงานภาครัฐ การเก็บรวบรวมภาพใบหน้าโดยไม่เจาะจงเพื่อสร้างฐานข้อมูลการจดจำ การจดจำอารมณ์ในที่ทำงานและในสถานศึกษา และ (ยกเว้นในบางกรณี) การระบุตัวตนทางชีวเมตริกแบบเรียลไทม์จากระยะไกลในพื้นที่สาธารณะเพื่อการบังคับใช้กฎหมาย กลุ่มที่ใหญ่กว่าถูกจัดอยู่ในประเภทความเสี่ยงสูง ซึ่งครอบคลุมส่วนประกอบด้านความปลอดภัยของผลิตภัณฑ์ที่อยู่ภายใต้การควบคุม และการใช้งานที่ระบุไว้ในภาคผนวกของกฎหมายฉบับนี้ เช่น การสรรหาบุคลากร การให้คะแนนเครดิต และการใช้งานในด้านการบังคับใช้กฎหมาย การย้ายถิ่นฐาน และการบริหารงานยุติธรรม ระบบที่โต้ตอบกับผู้คนหรือสร้างเนื้อหาสังเคราะห์มีหน้าที่ในการเปิดเผยข้อมูลอย่างโปร่งใส ส่วนที่เหลือโดยพื้นฐานแล้วไม่มีการควบคุม

ผู้ให้บริการหรือผู้ติดตั้ง: บทบาทเป็นตัวกำหนดหน้าที่

กฎหมายฉบับนี้กำหนดภาระผูกพันตามบทบาท และการกำหนดบทบาทผิดพลาดเป็นหนึ่งในข้อผิดพลาดด้านการปฏิบัติตามกฎหมายที่พบบ่อยที่สุด ผู้ให้บริการคือผู้ที่พัฒนาระบบหรือว่าจ้างให้พัฒนาระบบ และนำระบบนั้นออกสู่ตลาดภายใต้ชื่อของตนเอง ในขณะที่ผู้ใช้งานคือผู้ที่ใช้ระบบภายใต้อำนาจของตนเองในระหว่างดำเนินกิจกรรม ผู้ให้บริการมีภาระผูกพันด้านการออกแบบที่หนักหน่วง ในขณะที่ผู้ใช้งานมีภาระผูกพันด้านการใช้งานที่ถูกต้อง การกำกับดูแลโดยมนุษย์ และการตรวจสอบ ข้อผิดพลาดคือ ผู้ใช้งานจะกลายเป็นผู้ให้บริการพร้อมกับหน้าที่ทั้งหมดที่ตามมา หากผู้ใช้งานนำชื่อของตนเองไปใช้กับระบบ ปรับเปลี่ยนระบบอย่างมีนัยสำคัญ หรือเปลี่ยนแปลงวัตถุประสงค์ที่ตั้งใจไว้ในลักษณะที่ทำให้เข้าข่ายความเสี่ยงสูง การปรับแต่งแบบจำลองที่ซื้อมาโดยใช้ข้อมูลของตนเอง แล้วนำไปใช้ในวัตถุประสงค์ที่ผู้ขายไม่เคยคาดคิด อาจทำให้องค์กรก้าวข้ามเส้นแบ่งนั้นไปโดยไม่รู้ตัว ในการสืบสวนคดีอาญา ความแตกต่างเดียวกันนี้จะปรากฏขึ้นอีกครั้งในคำถามที่ว่าใครมีอำนาจในการกำจัด ซึ่งเป็นเหตุผลว่าทำไมบทบาทจึงควรบันทึกไว้เป็นลายลักษณ์อักษรและสะท้อนอยู่ในสัญญา

สิ่งที่ใช้ได้ในตอนนี้

กำหนดการได้เปลี่ยนแปลงไป และควรระบุให้ชัดเจนว่าสถานการณ์ปัจจุบันอยู่ที่ใด ข้อห้ามเกี่ยวกับการปฏิบัติที่มีความเสี่ยงที่ยอมรับไม่ได้และภาระผูกพันในการรับรองความรู้ความเข้าใจเกี่ยวกับ AI นั้นมีผลบังคับใช้แล้ว กฎสำหรับแบบจำลอง AI ทั่วไปก็มีผลบังคับใช้แล้ว ภาระผูกพันด้านความโปร่งใสของมาตรา 50 รวมถึงหน้าที่ในการชี้แจงให้ชัดเจนว่าเนื้อหาถูกสร้างหรือดัดแปลงโดยปัญญาประดิษฐ์นั้นมีผลบังคับใช้แล้ว สิ่งที่ถูกเลื่อนออกไปโดยแพ็กเกจกฎหมายดิจิทัลแบบครอบคลุมคือระบอบความเสี่ยงสูง: ภาระผูกพันสำหรับระบบที่ระบุไว้ในภาคผนวก III จะเริ่มในวันที่ 2 ธันวาคม 2027 และสำหรับระบบที่ครอบคลุมโดยภาคผนวก I จะเริ่มในวันที่ 2 สิงหาคม 2028 นอกจากนี้ ร่างคำสั่งความรับผิดต่อ AI ได้ถูกถอนออกไปแล้ว ดังนั้นความรับผิดทางแพ่งสำหรับความเสียหายจาก AI จึงยังคงเป็นเรื่องของกฎหมายภายในประเทศ ซึ่งในเนเธอร์แลนด์หมายถึงกฎทั่วไปของการละเมิดและความรับผิดต่อผลิตภัณฑ์

บทลงโทษภายใต้กฎหมายนี้เป็นบทลงโทษทางปกครอง โดยกำหนดไว้สูงสุดไม่เกิน 35 ล้านยูโร หรือ 7 เปอร์เซ็นต์ของรายได้ประจำปีทั่วโลก แล้วแต่จำนวนใดจะสูงกว่า สำหรับการกระทำที่ต้องห้าม และมีเพดานบทลงโทษที่ต่ำกว่าสำหรับการละเมิดอื่นๆ การกำกับดูแลในเนเธอร์แลนด์จัดขึ้นโดยใช้หน่วยงานกำกับดูแลที่มีอยู่แล้ว โดยมี Autoriteit Persoonsgegevens และ Rijksinspectie Digitale Infrastructuur ทำหน้าที่ประสานงาน บทความของเราเกี่ยวกับการกระทำที่ต้องห้ามด้าน AIและระบบ AI ที่มีความเสี่ยงสูงภายใต้กฎหมาย AIได้อธิบายข้อผูกพันโดยละเอียด และภาพรวมของกฎหมาย AI ของสหภาพยุโรปครอบคลุมกรอบการทำงานโดยรวม

อัยการจะนำไปใช้อย่างไร

ลองพิจารณาผู้ใช้งานที่นำเครื่องมือคัดกรองไปใช้โดยไม่ตรวจสอบข้อมูลการฝึกอบรมเพื่อหาอคติ โดยไม่มีการกำกับดูแลโดยมนุษย์ตามที่กฎหมายกำหนด และโดยไม่มีเอกสารประกอบที่จำเป็น หากเครื่องมือดังกล่าวส่งผลให้เกิดความผิดทางอาญา อัยการไม่จำเป็นต้องโต้แย้งจากหลักการพื้นฐานเกี่ยวกับความระมัดระวังที่ควรได้รับ เพราะข้อผูกพันนั้นระบุไว้ชัดเจน การละเมิดได้รับการบันทึกไว้ และการยอมรับการกระทำผิดโดยปริยายก็เกิดขึ้นจากการตัดสินใจนำเครื่องมือไปใช้อยู่ดี ในทางกลับกันก็เป็นจริงเช่นกัน และนี่คือประเด็นที่คณะกรรมการมักมองข้ามไป บริษัทที่สามารถจัดทำรายงานการประเมินความเสี่ยง ผลการตรวจสอบความถูกต้อง โปรโตคอลการกำกับดูแล และบันทึกเหตุการณ์ได้นั้น ได้สร้างรากฐานการป้องกันของตนเองไว้ก่อนที่สิ่งใดจะผิดพลาด

ผลลัพธ์จากอัลกอริทึมเป็นหลักฐาน

วิธีที่สองที่ AI เข้ามามีบทบาทในศาลอาญา ไม่ใช่ในฐานะผู้ก่อให้เกิดความเสียหาย แต่ในฐานะแหล่งหลักฐาน การจับคู่ใบหน้า การจดจำป้ายทะเบียนรถอัตโนมัติ การวิเคราะห์เครือข่ายข้อมูลการสื่อสาร แบบจำลองความเสี่ยงการฉ้อโกง การเปรียบเทียบเสียง และการคัดกรองข้อมูลที่ยึดมาได้โดยอัตโนมัติมากขึ้นเรื่อยๆ ล้วนสร้างหลักฐานที่อัยการต้องการใช้เป็นข้อกล่าวหา กระบวนการทางอาญาของเนเธอร์แลนด์ใช้ระบบปิดของหมวดหมู่หลักฐาน และผลลัพธ์จากอัลกอริทึมไม่ได้จัดเป็นหมวดหมู่ของตัวเอง มันมาถึงศาลในฐานะส่วนหนึ่งของรายงานอย่างเป็นทางการหรือผ่านความเห็นของผู้เชี่ยวชาญ และอยู่ภายใต้การตรวจสอบเช่นเดียวกับหลักฐานอื่นๆ

การตรวจสอบอย่างละเอียดถี่ถ้วนนี้คือจุดที่ฝ่ายจำเลยให้ความสำคัญ มีสามคำถามที่จะตัดสินว่าหลักฐานนั้นมีน้ำหนักมากน้อยเพียงใด วิธีการนั้นได้รับการตรวจสอบแล้วหรือไม่ และโดยใคร? วิธีการนั้นล้มเหลวภายใต้เงื่อนไขใด และเงื่อนไขเหล่านั้นมีอยู่จริงหรือไม่? และฝ่ายจำเลยสามารถทดสอบได้หรือไม่ ซึ่งหมายถึงการเข้าถึงข้อมูลเกี่ยวกับระบบ ข้อมูลการฝึกอบรม อัตราข้อผิดพลาด และการกำหนดค่าของระบบอย่างเพียงพอ เพื่อที่จะสามารถโต้แย้งได้อย่างมีนัยสำคัญ การจับคู่ที่นำเสนอเป็นข้อเท็จจริง โดยไม่มีอัตราข้อผิดพลาดและไม่มีความเป็นไปได้ในการตรวจสอบ ไม่ถือเป็นหลักฐานที่ศาลควรตัดสินลงโทษ และการกล่าวเช่นนั้นเป็นการแก้ต่างที่ถูกต้องและมักได้ผล

หลักฐานจากผู้เชี่ยวชาญมีกรอบการทำงานของตนเอง ศาลสามารถแต่งตั้งผู้เชี่ยวชาญได้ ฝ่ายจำเลยสามารถร้องขอผู้เชี่ยวชาญได้ และมีทะเบียนผู้เชี่ยวชาญของศาลเพื่อกำหนดเกณฑ์คุณภาพสำหรับสาขาที่ครอบคลุม หากวิธีการของ AI อยู่นอกเหนือสาขาที่ได้รับการยอมรับใดๆ นั่นก็เป็นข้อโต้แย้งเกี่ยวกับความน่าเชื่อถือของผลลัพธ์แล้ว นอกจากนี้ยังควรทราบว่ากฎหมายอาญาฉบับใหม่ (Wetboek van Strafvordering) ซึ่งรัฐสภาอังกฤษรับรองเมื่อวันที่ 24 กุมภาพันธ์ 2026 และตีพิมพ์ในหนังสือพิมพ์ Staatsblad ในเดือนมีนาคม 2026 จะมีผลบังคับใช้ทีละบทโดยพระราชกฤษฎีกา จนกว่าจะถึงเวลานั้น บทบัญญัติปัจจุบันและหมายเลขมาตราต่างๆ ยังคงมีผลบังคับใช้ต่อไป

มุมมองด้านการคุ้มครองข้อมูล

ในกรณีที่การตัดสินใจใดๆ ที่ส่งผลกระทบต่อบุคคลนั้นเกิดขึ้นโดยวิธีการอัตโนมัติเพียงอย่างเดียว GDPR ให้สิทธิ์แก่บุคคลนั้นในการที่จะไม่ถูกบังคับให้ปฏิบัติตามการตัดสินใจดังกล่าว พร้อมทั้งสิทธิ์ในการได้รับข้อมูลที่สำคัญเกี่ยวกับตรรกะที่เกี่ยวข้อง ในการบังคับใช้กฎหมายอาญา กฎหมายคู่ขนานที่บังคับใช้ตามคำสั่งคุ้มครองข้อมูลของตำรวจจะมีผลบังคับใช้ เรื่องนี้มีความสำคัญในสองด้าน สำหรับผู้ต้องสงสัย มันเป็นช่องทางในการเข้าถึงข้อมูลเกี่ยวกับระบบที่เจ้าหน้าที่อาจไม่ต้องการอธิบาย สำหรับบริษัท การนำระบบตัดสินใจอัตโนมัติมาใช้โดยไม่มีพื้นฐานทางกฎหมายและไม่มีมาตรการป้องกัน ถือเป็นการละเมิดกฎระเบียบที่จะถูกนำมาพิจารณาควบคู่ไปกับข้อกล่าวหาทางอาญาใดๆ

การแก้ต่างคดีที่มีปัญญาประดิษฐ์เข้ามาเกี่ยวข้อง

การแก้ต่างโดยสัญชาตญาณที่ว่าระบบนั้นเป็นเหมือนกล่องดำและไม่มีใครรู้ว่าจะเกิดอะไรขึ้นนั้นอ่อนแอกว่าที่คิด เพราะมันตอบคำถามผิดข้อ กฎหมายอาญาของเนเธอร์แลนด์ไม่ได้ถามว่าจำเลยคาดการณ์ผลลัพธ์ที่แน่นอนได้หรือไม่ แต่ถามว่าจำเลยมีอำนาจในการตัดสินใจว่าจะให้การกระทำนั้นเกิดขึ้นหรือไม่ และยอมรับความเสี่ยงที่จะเกิดขึ้นหรือไม่ ความไม่ชัดเจนอาจส่งผลเสียต่อจำเลย การใช้งานระบบที่มีพฤติกรรมที่อธิบายไม่ได้ ในสถานการณ์ที่อาจก่อให้เกิดอันตรายร้ายแรงนั้น ศาลอาจมองว่าเป็นการยอมรับความเสี่ยง

ข้อแก้ต่างที่ได้ผลนั้นแคบกว่าและต้องอาศัยหลักฐาน ข้อแรกคือ การขาดการควบคุมอย่างแท้จริง: ระบบถูกจัดซื้อมาเป็นผลิตภัณฑ์สำเร็จรูป ได้รับการกำหนดค่าและบำรุงรักษาโดยผู้ให้บริการ และจำเลยไม่มีทั้งข้อมูลและความสามารถทางเทคนิคที่จะเข้าไปแทรกแซง ข้อโต้แย้งนี้จะเบี่ยงเบนความสนใจขึ้นไปที่ผู้ให้บริการ และความสำเร็จหรือความล้มเหลวขึ้นอยู่กับสัญญาและสิ่งที่รายงานไปยังผู้ใช้งานจริง ข้อที่สองคือ ผู้ปฏิบัติงานได้ทำในสิ่งที่ผู้ปฏิบัติงานที่ระมัดระวังควรทำ: บันทึกการประเมินความเสี่ยง ตรวจสอบความถูกต้องก่อนการใช้งาน กำหนดการกำกับดูแลโดยมนุษย์ที่มีอำนาจและความสามารถในการแก้ไข ตรวจสอบหลังการใช้งาน และดำเนินการอย่างรวดเร็วเมื่อเกิดเหตุการณ์ ข้อที่สามคือ ความเป็นเหตุเป็นผล ซึ่งมักถูกนำมาใช้น้อยเกินไป ในห่วงโซ่ที่วิ่งจากข้อมูลการฝึกอบรมผ่านแบบจำลองไปสู่การตัดสินใจของมนุษย์ไปสู่ผลลัพธ์ อัยการต้องแสดงให้เห็นว่าการกระทำของจำเลยนี้เป็นสาเหตุของผลลัพธ์ และห่วงโซ่ที่ซับซ้อนนั้นอาจขาดตอนได้

ต่อไปนี้เป็นประเด็นสำคัญสองประการ ประการแรก ควรเก็บรักษาทุกอย่างไว้ตั้งแต่เนิ่นๆ: บันทึกการทำงาน เวอร์ชันของโมเดล การกำหนดค่า รายงานเหตุการณ์ และการติดต่อสื่อสารเกี่ยวกับการตัดสินใจในการใช้งาน ล้วนเป็นหลักฐานของทั้งสองฝ่าย และมักถูกเขียนทับอยู่เสมอ และประการที่สอง โปรดจำไว้ว่ามาตรการคุ้มครองตามปกติของกระบวนการทางอาญาใช้ได้อย่างเต็มที่กับคดีที่มีความซับซ้อนทางเทคนิค รวมถึงสิทธิของผู้ต้องสงสัยที่จะไม่พูดอะไร บทความของเราเกี่ยวกับสิทธิที่จะไม่พูดอะไรในคดีอาญาจะอธิบายวิธีการทำงานในกระบวนการสืบสวนของเนเธอร์แลนด์ ในกรณีที่ข้อกล่าวหาเป็นการฉ้อโกงที่กระทำโดยใช้เครื่องมืออัตโนมัติ คู่มือของเราเกี่ยวกับความผิดฐานฉ้อโกงและอาชญากรรมทางการเงินในเนเธอร์แลนด์จะครอบคลุมถึงความผิดที่เกี่ยวข้อง

เรื่องอื้อฉาวเกี่ยวกับสวัสดิการดูแลเด็กแสดงให้เห็นอะไรบ้าง

กรณี "toeslagenaffaire" หรือเรื่องอื้อฉาวเกี่ยวกับสวัสดิการดูแลเด็กในเนเธอร์แลนด์ เป็นกรณีที่ทุกการอภิปรายเรื่องความรับผิดชอบของอัลกอริทึมในเนเธอร์แลนด์หวนกลับมาพูดถึง และมักถูกยกมาด้วยเหตุผลที่ผิดๆ บทเรียนจากเรื่องนี้ไม่ใช่ว่าอัลกอริทึมทำสิ่งที่ผิดกฎหมาย แต่เป็นเรื่องที่ระบบการคัดเลือกความเสี่ยงอัตโนมัติ ผนวกกับความไม่เต็มใจของสถาบันที่จะตั้งคำถามกับผลลัพธ์ของระบบ ทำให้เกิดความเสียหายร้ายแรงต่อครอบครัวนับหมื่นครอบครัวเป็นเวลาหลายปี โดยไม่มีใครถูกดำเนินคดีทางอาญา

กรมสรรพากรใช้การจำแนกความเสี่ยงเพื่อเลือกคำขอรับสวัสดิการมาตรวจสอบ ตัวชี้วัดที่ไม่ควรนำมาใช้เลย เช่น สัญชาติ กลับถูกนำมาใช้ในการคัดเลือก และความผิดปกติเล็กน้อยทางด้านการบริหารอาจนำไปสู่การพบว่าเป็นการฉ้อโกงโดยเจตนา ซึ่งส่งผลให้ต้องคืนเงินสวัสดิการทั้งหมด ครอบครัวเหล่านั้นไม่เข้าใจว่าทำไมพวกเขาถึงถูกเลือก เจ้าหน้าที่มองว่าการจำแนกประเภทเป็นเพียงข้อสรุปมากกว่าสัญญาณ และภาระในการพิสูจน์ว่าข้อกล่าวหานั้นไม่เป็นความจริงซึ่งไม่มีใครอธิบายได้ ตกอยู่กับผู้ถูกกล่าวหา หน่วยงานคุ้มครองข้อมูลของเนเธอร์แลนด์พบว่าการประมวลผลข้อมูลสัญชาตินั้นผิดกฎหมายและได้สั่งปรับ และรัฐบาลได้ลาออกในเดือนมกราคม 2021

สิ่งที่ไม่ได้เกิดขึ้นนั้นเป็นบทเรียนที่สำคัญ ไม่มีบุคคลใดถูกดำเนินคดีทางอาญา ความรับผิดชอบกระจายไปทั่วองค์กร นโยบาย ซอฟต์แวร์ และกรอบกฎหมายที่ถือว่าการเรียกคืนผลประโยชน์เป็นเรื่องทางปกครอง การกระจายความรับผิดชอบนั้นเป็นความเสี่ยงที่การกระทำผิดโดยเจตนาและมาตรา 51 วรรค 4 ออกแบบมาเพื่อรับมือ และนี่คือเหตุผลที่พระราชบัญญัติ AI ยืนยันให้มีการกำกับดูแลโดยมนุษย์ที่ระบุตัวตนได้และต้องมีเอกสารประกอบ ความรับผิดชอบนั้นต้องการบุคคลที่สามารถหยุดยั้งมันได้และบันทึกสิ่งที่พวกเขารู้

มีข้อผิดพลาดสามประการที่ควรกล่าวถึง เพราะมันส่งผลโดยตรงต่อความเสี่ยงทางกฎหมายขององค์กรใดๆ ก็ตาม การตัดสินใจนั้นไม่สามารถอธิบายได้ จึงไม่สามารถโต้แย้งได้ การกำกับดูแลโดยมนุษย์มีอยู่ตามเอกสาร แต่ไม่ได้เกิดขึ้นจริง เพราะผู้ที่เกี่ยวข้องไม่มีทั้งอำนาจและข้อมูลที่จะลบล้างระบบได้ และผลของการแจ้งเตือนคือการพลิกภาระการพิสูจน์ในความเป็นจริง แม้ว่าจะไม่ใช่ในทางกฎหมายก็ตาม การใช้งาน AI ใดๆ ที่มีลักษณะทั้งสามประการนี้ซ้ำอีกครั้ง จะเป็นปัญหาทางกฎหมายที่รอวันเกิดขึ้น ไม่ว่าเทคโนโลยีที่อยู่เบื้องหลังจะเป็นอย่างไรก็ตาม การตอบสนองของรัฐบาล รวมถึงคำแนะนำเกี่ยวกับการไม่เลือกปฏิบัติโดยการออกแบบ และเกี่ยวกับทะเบียนอัลกอริทึมสำหรับหน่วยงานภาครัฐ มุ่งเป้าไปที่สามประเด็นนี้โดยตรง

โปรแกรมการปฏิบัติตามกฎระเบียบที่ทำหน้าที่เป็นเครื่องมือป้องกันด้วย

ทุกสิ่งที่บริษัททำเพื่อให้เป็นไปตามพระราชบัญญัติปัญญาประดิษฐ์ (AI Act) จะเป็นการสร้างหลักฐานที่จำเป็นหากเกิดข้อผิดพลาดขึ้น วัตถุประสงค์สองประการนี้เป็นเหตุผลที่ควรทำอย่างถูกต้องมากกว่าทำเพียงขั้นต่ำ และทำให้ขั้นตอนต่อไปนี้คุ้มค่ากับความพยายาม

เริ่มต้นด้วยการสำรวจระบบที่มีอยู่ คุณไม่สามารถจัดประเภทสิ่งที่คุณไม่ได้ระบุไว้ และองค์กรส่วนใหญ่พบว่า AI เข้ามามีบทบาทผ่านกระบวนการจัดซื้อจัดจ้างมากกว่าผ่านโครงการต่างๆ เช่น ฟีเจอร์คัดกรองในแพลตฟอร์มการสรรหาบุคลากร โมดูลการให้คะแนนในใบสมัครสินเชื่อ หรือฟังก์ชันการตรวจสอบในซอฟต์แวร์รักษาความปลอดภัย จัดประเภทระบบแต่ละระบบภายใต้กฎหมาย บันทึกเหตุผล และทบทวนอีกครั้งเมื่อระบบมีการเปลี่ยนแปลงอย่างมีนัยสำคัญ เพราะการเปลี่ยนแปลงวัตถุประสงค์อาจทำให้ระบบถูกจัดอยู่ในหมวดหมู่ที่แตกต่างออกไป

จากนั้นให้กำหนดความรับผิดชอบให้กับบุคคลที่ระบุชื่อ แทนที่จะเป็นแผนก การกระทำผิดในเชิงหน้าที่และการเป็นผู้นำที่แท้จริงนั้นขึ้นอยู่กับว่าใครเป็นผู้กำหนดว่าการกระทำนั้นเกิดขึ้นหรือไม่ องค์กรที่ไม่มีใครสามารถระบุความรับผิดชอบได้ไม่ได้หมายความว่าจะพ้นจากความรับผิดชอบไปได้ เพียงแต่จะเปิดเผยตัวตนของผู้ที่อยู่บนสุดของโครงสร้างองค์กรเท่านั้น ระบุว่าใครเป็นเจ้าของระบบแต่ละระบบ ใครมีอำนาจอนุมัติการใช้งาน ใครเป็นผู้กำกับดูแล และใครมีอำนาจในการปิดระบบ และตรวจสอบให้แน่ใจว่าบุคคลที่ระบุชื่อนั้นมีอำนาจและความสามารถทางเทคนิคในการดำเนินการดังกล่าว

ทำให้การกำกับดูแลโดยมนุษย์เป็นรูปธรรม ข้อกำหนดไม่ใช่การมีบุคคลอยู่ในวงจรการทำงาน แต่เป็นบุคคลที่สามารถเข้าใจผลลัพธ์ มีอำนาจในการปฏิเสธ และไม่ถูกวัดจากปริมาณงานในลักษณะที่ทำให้การปฏิเสธทำได้ยาก บันทึกการแก้ไขเปลี่ยนแปลง เพราะบันทึกที่แสดงให้เห็นว่ามีการใช้ฟังก์ชันการกำกับดูแลจริง ๆ นั้นมีค่ามากกว่าเอกสารนโยบายใด ๆ

บันทึกรายละเอียดทางเทคนิค: แหล่งที่มาของข้อมูลการฝึกอบรมและวิธีการตรวจสอบ การทดสอบที่ดำเนินการและผลการทดสอบ อัตราข้อผิดพลาดและเงื่อนไขความล้มเหลวที่ทราบ และการตัดสินใจเกี่ยวกับเรื่องเหล่านั้น หากจำเป็นต้องประเมินผลกระทบต่อการคุ้มครองข้อมูลหรือสิทธิขั้นพื้นฐาน ให้ดำเนินการก่อนการใช้งานจริงและปรับปรุงข้อมูลให้เป็นปัจจุบันอยู่เสมอ ตรวจสอบหลังการใช้งาน บันทึกเหตุการณ์ และดำเนินการแก้ไขอย่างชัดเจนในบันทึก

สุดท้ายนี้ ตรวจสอบให้แน่ใจว่าได้ทำสัญญาอย่างถูกต้อง ในกรณีที่ซื้อระบบแทนการสร้างเอง การแบ่งความรับผิดชอบระหว่างผู้ให้บริการและผู้ใช้งานจะเป็นตัวกำหนดว่าใครเป็นผู้รับความเสี่ยง ขอเอกสารทางเทคนิคที่กฎหมายกำหนด คำแนะนำในการใช้งาน ข้อมูลเกี่ยวกับข้อจำกัดที่ทราบ และสิทธิ์ในการได้รับแจ้งเกี่ยวกับเหตุการณ์และการแก้ไขเปลี่ยนแปลงที่สำคัญทีมกฎหมายด้านไอที ของเรา จะจัดการข้อตกลงเหล่านี้

เมื่อ AI กลายเป็นเครื่องมือของผู้กระทำผิด แทนที่จะเป็นสาเหตุของความล้มเหลวของธุรกิจ

บทความนี้กล่าวถึงความเสียหายที่เกิดจากระบบ AI ที่บริษัทนำมาใช้เพื่อวัตถุประสงค์ที่ถูกต้องตามกฎหมายเท่านั้น อีกด้านหนึ่งของภาพคือการใช้ AI โดยเจตนาเพื่อกระทำความผิด และในกรณีนี้คำตอบจะง่ายกว่า: ความผิดก็คือความผิด และเทคโนโลยีเป็นเพียงรายละเอียดที่ทำให้ความผิดนั้นรุนแรงขึ้น ไม่ใช่ปัญหาทางกฎหมาย กฎหมายอาญาของเนเธอร์แลนด์ร่างขึ้นโดยพิจารณาจากผลลัพธ์และการกระทำ ไม่ใช่จากเครื่องมือ ซึ่งเป็นเหตุผลว่าทำไมจึงไม่จำเป็นต้องมีบทบัญญัติใหม่มากนัก

การฉ้อโกงโดยใช้เสียงหรือวิดีโอสังเคราะห์ของผู้กำกับที่สั่งให้จ่ายเงิน ถือเป็นการหลอกลวงตามมาตรา 326 วรรค 4 เช่นเดียวกับการปลอมแปลงจดหมาย เอกสารที่สร้างขึ้นโดยแบบจำลองเพื่อสนับสนุนการเรียกร้องเท็จ ถือเป็นการปลอมแปลงเอกสารตามมาตรา 225 วรรค 4 การใช้ข้อมูลส่วนบุคคลของผู้อื่นเพื่อแอบอ้างเป็นบุคคลนั้น ถือเป็นความผิดตามมาตรา 231b วรรค 4 การเผยแพร่ภาพอนาจารของบุคคลโดยไม่ได้รับความยินยอมนั้นมีโทษ และกฎหมายว่าด้วยความผิดทางเพศ (Wet seksuele misdrijven) ซึ่งมีผลบังคับใช้ตั้งแต่วันที่ 1 กรกฎาคม 2567 ได้ปรับปรุงส่วนนั้นของประมวลกฎหมายอาญาให้ทันสมัยขึ้น ภาพสังเคราะห์ไม่ถือเป็นความผิดเพราะถูกสร้างขึ้นไม่ใช่บันทึกไว้ การคุกคามอย่างต่อเนื่องผ่านบัญชีอัตโนมัติอาจเข้าข่ายการก่อกวนตามมาตรา 285b วรรค 4 ซึ่งจะถูกดำเนินคดีก็ต่อเมื่อผู้เสียหายร้องเรียนเท่านั้น

สิ่งที่ AI เปลี่ยนแปลงคือขนาด ความน่าเชื่อถือ และความยากลำบากในการพิสูจน์ เสียงสังเคราะห์ที่สมจริงช่วยลดอุปสรรคที่เคยใช้ป้องกันการฉ้อโกงการชำระเงิน และหลักฐานที่แสดงว่าการบันทึกนั้นเป็นของแท้ก็ไม่สามารถสันนิษฐานได้อีกต่อไป ผลที่ตามมาในทางปฏิบัติสองประการคือ สำหรับเหยื่อและบริษัทต่างๆ ขั้นตอนการตรวจสอบที่ไม่ต้องอาศัยการจดจำเสียงหรือใบหน้ากลายเป็นมาตรการควบคุมขั้นพื้นฐานมากกว่าการปรับปรุงให้ดีขึ้น สำหรับกระบวนการทางอาญา ความถูกต้องของวัสดุเสียงและวิดีโอได้กลายเป็นคำถามที่ต้องพิสูจน์มากกว่าการสันนิษฐาน และฝ่ายจำเลยมีสิทธิ์ที่จะตรวจสอบได้

กฎระเบียบเริ่มเข้ามาช่วยแล้ว ข้อกำหนดด้านความโปร่งใสตามมาตรา 50 ของพระราชบัญญัติปัญญาประดิษฐ์ ซึ่งมีผลบังคับใช้แล้ว กำหนดให้ผู้ให้บริการต้องทำเครื่องหมายเนื้อหาที่สร้างขึ้นโดยคอมพิวเตอร์ในรูปแบบที่เครื่องอ่านได้ และกำหนดให้ผู้ใช้งานต้องเปิดเผยว่าภาพ เสียง หรือวิดีโอได้รับการสร้างหรือดัดแปลงโดยปัญญาประดิษฐ์ในกรณีที่ภาพหรือวิดีโอนั้นแสดงถึงบุคคลหรือเหตุการณ์จริง การปฏิบัติตามกฎระเบียบไม่ได้หยุดยั้งผู้กระทำผิดที่ตั้งใจ แต่เป็นการเสริมความแข็งแกร่งให้กับทุกคน: ทำให้เนื้อหาที่สร้างขึ้นโดยคอมพิวเตอร์ซึ่งไม่ได้เปิดเผยกลายเป็นการละเมิดกฎระเบียบ และเป็นสัญญาณเตือนให้ผู้สืบสวนและศาลใช้ในการตรวจสอบ บทความของเราเกี่ยวกับการพิสูจน์การหลอกลวงทางดิจิทัลในเนเธอร์แลนด์นั้นเกี่ยวข้องกับด้านหลักฐานของคดีเหล่านี้

คำถามที่พบบ่อยเกี่ยวกับ AI และความรับผิดทางอาญา

สรุป ความน่าเชื่อถือของ Olymp Trade? Law & More สามารถช่วย

Law & More ให้คำปรึกษาแก่บริษัท กรรมการ และบุคคลทั่วไปเกี่ยวกับความรับผิดทางอาญาที่เกิดจากระบบอัตโนมัติ เราประเมินความเสี่ยงภายใต้มาตรา 51 Sr และหลักการกระทำผิดโดยหน้าที่ สร้างและตรวจสอบการกำกับดูแล AI ที่จะยืนหยัดเป็นหลักฐานแสดงถึงความระมัดระวัง ท้าทายหลักฐานทางอัลกอริทึมในกระบวนการทางอาญา และปกป้องบริษัทและเจ้าหน้าที่ของบริษัทในการสอบสวนโดยสำนักงานอัยการและหน่วยงานกำกับดูแล หากองค์กรของคุณใช้งาน AI ในสถานการณ์ที่ความผิดพลาดส่งผลกระทบ โปรดติดต่อสำนักงานของเราก่อนที่เหตุการณ์จะบังคับให้เกิดคำถามขึ้น