ผู้สังเกตการณ์ความยุติธรรมของจีน

中司观察

EnglishArabicจีน (ดั้งเดิม)DutchFrenchGermanภาษาฮินดีItalianJapaneseKoreanPortugueseRussianSpanishSwedishชาวอิสราเอลIndonesianVietnameseภาษาไทยตุรกีMalay

ประเทศจีนจัดการกับความรับผิดชอบของแพลตฟอร์มในการตัดสินใจเกี่ยวกับอัลกอริทึมอย่างไร

อา., 28 พ.ย. 2021
หมวดหมู่: ข้อมูลเชิงลึก
ร่วมให้ข้อมูล: กั่วตงดู杜国栋

Avatar

 

ประเด็นที่สำคัญ:

  • ฝ่ายนิติบัญญัติของจีนได้ตระหนักถึงบทบาทสำคัญของอัลกอริทึมในการทำงานของแพลตฟอร์มอินเทอร์เน็ต และกำหนดให้เป็น "การตัดสินใจโดยอัตโนมัติ" ในกฎหมายคุ้มครองข้อมูลส่วนบุคคล (PIPL) ที่ประกาศใช้เมื่อวันที่ 20 ส.ค. 2021 ซึ่งควบคุมเทคโนโลยีนี้เป็นครั้งแรก
  • ภายใต้ PIPL แพลตฟอร์มจะต้องประเมินผลกระทบของอัลกอริธึมล่วงหน้า และรับผิดชอบต่อผลลัพธ์ของการตัดสินใจในภายหลัง
  • PIPL ขยายสิทธิ์ในการรู้จักผู้ใช้แพลตฟอร์ม และกำหนดให้แพลตฟอร์มต้องทำลาย "รังไหมข้อมูล" ที่สร้างขึ้นโดยคำแนะนำส่วนบุคคลของอัลกอริทึมสำหรับผู้ใช้


กฎหมายคุ้มครองข้อมูลส่วนบุคคลของจีน (个人信息保护法)ซึ่งมีผลบังคับใช้ในเดือนสิงหาคม พ.ศ. 2021 ได้กำหนดขอบเขตสำหรับแพลตฟอร์มอินเทอร์เน็ตที่ทำการตัดสินใจโดยอัตโนมัติผ่านอัลกอริธึม

. พื้นหลัง

แพลตฟอร์มอินเทอร์เน็ตของจีน ซึ่งโดยทั่วไปคือ TopBuzz และ TikTok ของ ByteDance ใช้อัลกอริธึมการแนะนำอย่างกว้างขวางเพื่อส่งเนื้อหาและผลิตภัณฑ์ไปยังผู้ใช้ของตน

อย่างไรก็ตาม อัลกอริธึมดังกล่าว ซึ่งถูกกล่าวหาว่าแทรกแซงสิทธิ์ของผู้ใช้ในการตัดสินใจโดยเสรีและทำให้เกิดอันตรายทางศีลธรรม ถูกตั้งคำถามโดยสาธารณชนและหน่วยงานกำกับดูแล

ฝ่ายนิติบัญญัติของจีนได้ตระหนักถึงบทบาทสำคัญของอัลกอริธึมในการทำงานของแพลตฟอร์มดังกล่าว และกำหนดให้เป็น "การตัดสินใจโดยอัตโนมัติ" ในกฎหมายคุ้มครองข้อมูลส่วนบุคคล (ต่อไปนี้จะเรียกว่า "PIPL") ซึ่งประกาศใช้เมื่อวันที่ 20 ส.ค. 2021 ซึ่งควบคุมเทคโนโลยีนี้สำหรับ ครั้งแรก.

ตาม PIPL การตัดสินใจอัตโนมัติหมายถึงกิจกรรมของการวิเคราะห์และประเมินพฤติกรรมพฤติกรรม งานอดิเรก หรือสถานะทางการเงิน สุขภาพ และเครดิตของแต่ละบุคคลโดยอัตโนมัติผ่านโปรแกรมคอมพิวเตอร์และการตัดสินใจในเรื่องนั้น (มาตรา 73)

ก่อนหน้านั้น มีความคิดเห็นแตกแยกเกี่ยวกับความรับผิดของแพลตฟอร์มในการตัดสินใจโดยอัตโนมัติ ตัวอย่างเช่น บางคนเชื่อว่าแพลตฟอร์มไม่ควรรับผิดชอบต่อผลลัพธ์ของอัลกอริธึมการตัดสินใจแบบอัตโนมัติ ซึ่งโดยพื้นฐานแล้วเป็นเทคโนโลยีที่เป็นกลาง อย่างไรก็ตาม PIPL ชี้แจงสิ่งที่ตรงกันข้าม

. ข้อจำกัดบนแพลตฟอร์ม

1. หน่วยงานกำกับดูแลตรวจสอบอัลกอริทึมโดยตรง

ในฐานะผู้ประมวลผลข้อมูลส่วนบุคคล แพลตฟอร์มจะต้องตรวจสอบการปฏิบัติตามการประมวลผลข้อมูลส่วนบุคคลด้วยกฎหมายและระเบียบข้อบังคับด้านการบริหารเป็นประจำ (มาตรา 54)

สิ่งนี้ต้องใช้แพลตฟอร์มเพื่อตรวจสอบการตัดสินใจอัตโนมัติของอัลกอริทึมและกิจกรรมการประมวลผลข้อมูลอื่นๆ เป็นระยะ

ตามกฎแล้ว หน่วยงานกำกับดูแลยังสามารถดำเนินการตรวจสอบภายในเกี่ยวกับการทำงานของอัลกอริทึมของแพลตฟอร์ม แทนที่จะดูแลภายนอกเกี่ยวกับการกระทำของแพลตฟอร์มและผลที่ตามมาเท่านั้น

ดังนั้น หน่วยงานกำกับดูแลจึงกำหนดให้อัลกอริทึมเป็นวัตถุควบคุมโดยตรง ซึ่งช่วยให้หน่วยงานกำกับดูแลสามารถเข้าไปแทรกแซงในเทคโนโลยีและรายละเอียดของการตัดสินใจอัตโนมัติได้

2. แพลตฟอร์มประเมินผลกระทบของอัลกอริทึมล่วงหน้า 

ในฐานะผู้ประมวลผลข้อมูลส่วนบุคคล แพลตฟอร์มจะต้องดำเนินการประเมินผลกระทบต่อการปกป้องข้อมูลส่วนบุคคลล่วงหน้าและบันทึกข้อมูลการประมวลผลหากพวกเขาใช้ข้อมูลส่วนบุคคลเพื่อการตัดสินใจโดยอัตโนมัติ (มาตรา 55)

การประเมินโดยแพลตฟอร์มจะครอบคลุมสิ่งต่อไปนี้:

A. วัตถุประสงค์ วิธีการ หรือด้านอื่นใดของการประมวลผลข้อมูลส่วนบุคคลนั้นถูกกฎหมาย ถูกต้องตามกฎหมาย และจำเป็น;

ข. ผลกระทบต่อสิทธิส่วนบุคคลและผลประโยชน์และระดับความเสี่ยง และ

ค. มาตรการคุ้มครองความปลอดภัยที่ดำเนินการไปนั้นถูกกฎหมาย มีประสิทธิภาพ และสอดคล้องกับระดับความเสี่ยงหรือไม่

ดังนั้น แพลตฟอร์มจะต้องทำการประเมินล่วงหน้าก่อนที่อัลกอริธึมของการตัดสินใจอัตโนมัติจะทำงาน การประเมินความเสี่ยงรวมถึงความถูกกฎหมายและความจำเป็นของการตัดสินใจโดยอัตโนมัติด้วยอัลกอริธึม ตลอดจนผลกระทบและความเสี่ยง

การตัดสินใจอัตโนมัติแบบอัลกอริธึมที่บกพร่องจากแพลตฟอร์มอาจก่อให้เกิดอันตรายต่อทรัพย์สินของพลเมืองและสิทธิส่วนบุคคล แม้กระทั่งต่อผลประโยชน์สาธารณะและความมั่นคงของชาติ

ดังนั้น ผลกระทบด้านลบอาจส่งผลกระทบต่อผู้ใช้หลายพันคน ณ จุดนั้น แม้ว่าแพลตฟอร์มจะต้องรับผิดชอบ แต่อาจเป็นเรื่องยากที่จะกู้คืนความเสียหายที่ได้ทำไปแล้ว

เพื่อป้องกันสถานการณ์ดังกล่าว กฎหมายได้กำหนดระบบการประเมินล่วงหน้าสำหรับอัลกอริธึมของแพลตฟอร์มเพื่อพยายามแทรกแซงอัลกอริธึมล่วงหน้า

3. แพลตฟอร์มจะต้องรับผิดชอบต่อผลลัพธ์ของการตัดสินใจในภายหลัง

แพลตฟอร์มจะรับภาระผูกพันต่อไปนี้สำหรับผลลัพธ์ของการตัดสินใจโดยอัตโนมัติ (มาตรา 24):

A. แพลตฟอร์มจะต้องตรวจสอบให้แน่ใจว่าผลลัพธ์นั้นยุติธรรมและเป็นกลาง

ในกรณีที่ผู้ประมวลผลข้อมูลส่วนบุคคลดำเนินการตัดสินใจอัตโนมัติกับข้อมูลส่วนบุคคล พวกเขาจะต้องรับรองความโปร่งใสของการตัดสินใจ ความยุติธรรม และความเป็นกลางของผลลัพธ์ และจะต้องไม่ให้การปฏิบัติที่แตกต่างอย่างไม่สมเหตุสมผลแก่บุคคลในแง่ของราคาธุรกรรมหรือเงื่อนไขธุรกรรมอื่น ๆ

ข. แพลตฟอร์มจะต้องให้ทางเลือกในการตัดสินใจโดยอัตโนมัติ โดยไม่มุ่งเป้าไปที่ลักษณะส่วนบุคคลของผู้ใช้

ในกรณีที่การส่งข้อมูลแบบพุชหรือการตลาดเชิงพาณิชย์ไปยังบุคคลนั้นดำเนินการโดยใช้การตัดสินใจแบบอัตโนมัติ ตัวเลือกที่ไม่ได้มุ่งเป้าไปที่ลักษณะส่วนบุคคลของบุคคลหรือวิธีง่ายๆ ในการปฏิเสธที่จะรับจะถูกจัดเตรียมให้กับบุคคลพร้อมๆ กัน

C. เวทีจะต้องทำการอธิบายผลการตัดสินใจ

ในกรณีที่การตัดสินใจที่มีผลกระทบอย่างมีนัยสำคัญต่อสิทธิและผลประโยชน์ของแต่ละบุคคลโดยใช้วิธีการตัดสินใจอัตโนมัติ บุคคลนั้นมีสิทธิที่จะขอให้ผู้ประมวลผลข้อมูลส่วนบุคคลทำการอธิบาย ตลอดจนสิทธิที่จะปฏิเสธการทำ การตัดสินใจโดยผู้ประมวลผลข้อมูลส่วนบุคคลโดยวิธีการตัดสินใจอัตโนมัติเท่านั้น

กฎนี้กำหนดให้แพลตฟอร์มต้องรับผิดชอบต่อผลลัพธ์ของการตัดสินใจโดยอัตโนมัติ ซึ่งรวมถึง:

A. กฎไม่ยอมรับการป้องกัน "ความเป็นกลางทางเทคโนโลยี" ที่ใช้โดยแพลตฟอร์ม แพลตฟอร์มควรรับผิดชอบต่อผลลัพธ์ของการตัดสินใจโดยอัตโนมัติด้วยอัลกอริธึม และควรตรวจสอบให้แน่ใจว่าผลลัพธ์นั้นยุติธรรมและสมเหตุสมผล

ข. กฎขยายสิทธิ์ในการรู้จักผู้ใช้แพลตฟอร์ม ผู้ใช้สามารถร้องขอความโปร่งใสของผลการตัดสินใจโดยอัตโนมัติรวมถึงคำอธิบายจากแพลตฟอร์มในกรณีที่ "ผลกระทบที่มีนัยสำคัญ"

C. กฎกำหนดให้แพลตฟอร์มต้องทำลาย "รังไหมข้อมูล" ที่สร้างขึ้นโดยคำแนะนำที่ปรับให้เหมาะกับผู้ใช้ตามอัลกอริทึม และกำหนดให้แพลตฟอร์มปกป้องสิทธิ์ของผู้ใช้ในการรู้

สาม. ความคิดเห็นของเรา

ประเทศจีนได้พัฒนา PIPL โดยเพิ่มกฎเกณฑ์ทางกฎหมายสำหรับอัลกอริทึมของแพลตฟอร์มในการตัดสินใจโดยอัตโนมัติ อย่างไรก็ตาม ยังคงต้องได้รับการขัดเกลาเพิ่มเติม ตัวอย่างเช่น กฎหมายไม่ได้ชี้แจง:

ก. เงื่อนไขสำหรับแพลตฟอร์มเพื่อเริ่มการประเมินอัลกอริธึม

ข. รายงานการประเมินจะถูกเปิดเผยต่อสาธารณะหลังจากแพลตฟอร์มประเมินอัลกอริธึมของตนหรือไม่ และ 

C. วิธีการที่แพลตฟอร์มควรรับผิดชอบต่อความเสียหายที่เกิดจากการตัดสินใจอัตโนมัติของอัลกอริทึม

ฉันเดาว่าหน่วยงานกำกับดูแลของจีนยังคงสำรวจความเป็นไปได้ในการออกกฎข้อบังคับเฉพาะหลายฉบับเพื่อนำ PIPL ไปปฏิบัติต่อไป

 

ภาพถ่ายโดย Road Trip กับ Raj on Unsplash

 

 

 

 

 

ร่วมให้ข้อมูล: กั่วตงดู杜国栋

บันทึกเป็น PDF

กฎหมายที่เกี่ยวข้องเกี่ยวกับ China Laws Portal

นอกจากนี้คุณยังอาจต้องการ

การเปิดเผยคำพิพากษาของจีน: ละเมิดความเป็นส่วนตัวหรือไม่?

ความคิดเห็นที่แตกแยกระหว่างศาลท้องถิ่นของจีนนั้นแสดงออกมาเกี่ยวกับคำถามที่ว่าการเปิดเผยคำพิพากษาของจีนละเมิดความเป็นส่วนตัวของคู่กรณีหรือไม่

เบื้องหลังคดีล้มละลายส่วนบุคคลคดีแรกของจีน

ในปี พ.ศ. 2021 ศาลประชาชนระดับกลางของเซินเจิ้นได้อนุญาตให้นายเหลียงยื่นคำร้องเพื่อปรับโครงสร้างองค์กรล้มละลายส่วนบุคคล ซึ่งถือเป็นครั้งแรกในประเทศจีน

ประเทศจีนจัดการกับความรับผิดชอบของแพลตฟอร์มในการตัดสินใจเกี่ยวกับอัลกอริทึมอย่างไร

กฎหมายคุ้มครองข้อมูลส่วนบุคคลของจีน (个人信息保护法) ซึ่งประกาศใช้เมื่อเดือนสิงหาคม พ.ศ. 2021 ได้กำหนดขอบเขตสำหรับแพลตฟอร์มอินเทอร์เน็ตที่ทำการตัดสินใจโดยอัตโนมัติผ่านอัลกอริทึม

กรณีศึกษา: การลงโทษทางปกครองของการจดจำใบหน้า

การศึกษาคดีการลงโทษทางปกครองมากกว่า 400 คดีให้ความกระจ่างเกี่ยวกับทัศนคติในปัจจุบันของรัฐบาลจีนต่อการจดจำใบหน้า และให้สถานการณ์สมมติเพื่อประเมินว่ากฎหมายคุ้มครองข้อมูลส่วนบุคคลของจีนจะมีผลบังคับใช้อย่างไรหากกรณีดังกล่าวเกิดขึ้นในวันนี้

กฎหมายช่วยเหลือทางกฎหมายของจีนพูดว่าอย่างไร?

ทนายมีหน้าที่อะไร? ใครจะทำหน้าที่เป็นเจ้าหน้าที่ช่วยเหลือทางกฎหมาย? สามารถให้บริการด้านกฎหมายประเภทใดบ้าง? ต่อไปนี้คือคำถามสำคัญที่ต้องตอบเพื่อทำความรู้จักกฎหมายความช่วยเหลือทางกฎหมายของจีน

กฎหมายความปลอดภัยในการทำงานของจีน (2021)

กฎหมายความปลอดภัยในการทำงาน (安全生产法) ประกาศใช้เมื่อวันที่ 29 มิถุนายน พ.ศ. 2002 และแก้ไขเพิ่มเติมในปี พ.ศ. 2009 พ.ศ. 2014 และ พ.ศ. 2021 ตามลำดับ การแก้ไขล่าสุดมีผลบังคับใช้เมื่อวันที่ 1 กันยายน พ.ศ. 2021

บทบัญญัติในหลายประเด็นเกี่ยวกับการบังคับใช้กฎหมายในการพิจารณาคดีแพ่งที่เกี่ยวข้องกับการใช้เทคโนโลยีการจดจำใบหน้าเพื่อประมวลผลข้อมูลส่วนบุคคล (2021)

บทบัญญัติของศาลประชาชนสูงสุดในหลายประเด็นเกี่ยวกับการบังคับใช้กฎหมายในการพิจารณาคดีแพ่งที่เกี่ยวข้องกับการใช้เทคโนโลยีการจดจำใบหน้าในการประมวลผลข้อมูลส่วนบุคคล (最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定) ประกาศใช้เมื่อวันที่ 27 กรกฎาคม พ.ศ. 2021 และมีผลบังคับใช้ในวันที่ 1 สิงหาคม พ.ศ. 2021