ประเด็นที่สำคัญ:
- ฝ่ายนิติบัญญัติของจีนได้ตระหนักถึงบทบาทสำคัญของอัลกอริทึมในการทำงานของแพลตฟอร์มอินเทอร์เน็ต และกำหนดให้เป็น "การตัดสินใจโดยอัตโนมัติ" ในกฎหมายคุ้มครองข้อมูลส่วนบุคคล (PIPL) ที่ประกาศใช้เมื่อวันที่ 20 ส.ค. 2021 ซึ่งควบคุมเทคโนโลยีนี้เป็นครั้งแรก
- ภายใต้ PIPL แพลตฟอร์มจะต้องประเมินผลกระทบของอัลกอริธึมล่วงหน้า และรับผิดชอบต่อผลลัพธ์ของการตัดสินใจในภายหลัง
- PIPL ขยายสิทธิ์ในการรู้จักผู้ใช้แพลตฟอร์ม และกำหนดให้แพลตฟอร์มต้องทำลาย "รังไหมข้อมูล" ที่สร้างขึ้นโดยคำแนะนำส่วนบุคคลของอัลกอริทึมสำหรับผู้ใช้
กฎหมายคุ้มครองข้อมูลส่วนบุคคลของจีน (个人信息保护法)ซึ่งมีผลบังคับใช้ในเดือนสิงหาคม พ.ศ. 2021 ได้กำหนดขอบเขตสำหรับแพลตฟอร์มอินเทอร์เน็ตที่ทำการตัดสินใจโดยอัตโนมัติผ่านอัลกอริธึม
. พื้นหลัง
แพลตฟอร์มอินเทอร์เน็ตของจีน ซึ่งโดยทั่วไปคือ TopBuzz และ TikTok ของ ByteDance ใช้อัลกอริธึมการแนะนำอย่างกว้างขวางเพื่อส่งเนื้อหาและผลิตภัณฑ์ไปยังผู้ใช้ของตน
อย่างไรก็ตาม อัลกอริธึมดังกล่าว ซึ่งถูกกล่าวหาว่าแทรกแซงสิทธิ์ของผู้ใช้ในการตัดสินใจโดยเสรีและทำให้เกิดอันตรายทางศีลธรรม ถูกตั้งคำถามโดยสาธารณชนและหน่วยงานกำกับดูแล
ฝ่ายนิติบัญญัติของจีนได้ตระหนักถึงบทบาทสำคัญของอัลกอริธึมในการทำงานของแพลตฟอร์มดังกล่าว และกำหนดให้เป็น "การตัดสินใจโดยอัตโนมัติ" ในกฎหมายคุ้มครองข้อมูลส่วนบุคคล (ต่อไปนี้จะเรียกว่า "PIPL") ซึ่งประกาศใช้เมื่อวันที่ 20 ส.ค. 2021 ซึ่งควบคุมเทคโนโลยีนี้สำหรับ ครั้งแรก.
ตาม PIPL การตัดสินใจอัตโนมัติหมายถึงกิจกรรมของการวิเคราะห์และประเมินพฤติกรรมพฤติกรรม งานอดิเรก หรือสถานะทางการเงิน สุขภาพ และเครดิตของแต่ละบุคคลโดยอัตโนมัติผ่านโปรแกรมคอมพิวเตอร์และการตัดสินใจในเรื่องนั้น (มาตรา 73)
ก่อนหน้านั้น มีความคิดเห็นแตกแยกเกี่ยวกับความรับผิดของแพลตฟอร์มในการตัดสินใจโดยอัตโนมัติ ตัวอย่างเช่น บางคนเชื่อว่าแพลตฟอร์มไม่ควรรับผิดชอบต่อผลลัพธ์ของอัลกอริธึมการตัดสินใจแบบอัตโนมัติ ซึ่งโดยพื้นฐานแล้วเป็นเทคโนโลยีที่เป็นกลาง อย่างไรก็ตาม PIPL ชี้แจงสิ่งที่ตรงกันข้าม
. ข้อจำกัดบนแพลตฟอร์ม
1. หน่วยงานกำกับดูแลตรวจสอบอัลกอริทึมโดยตรง
ในฐานะผู้ประมวลผลข้อมูลส่วนบุคคล แพลตฟอร์มจะต้องตรวจสอบการปฏิบัติตามการประมวลผลข้อมูลส่วนบุคคลด้วยกฎหมายและระเบียบข้อบังคับด้านการบริหารเป็นประจำ (มาตรา 54)
สิ่งนี้ต้องใช้แพลตฟอร์มเพื่อตรวจสอบการตัดสินใจอัตโนมัติของอัลกอริทึมและกิจกรรมการประมวลผลข้อมูลอื่นๆ เป็นระยะ
ตามกฎแล้ว หน่วยงานกำกับดูแลยังสามารถดำเนินการตรวจสอบภายในเกี่ยวกับการทำงานของอัลกอริทึมของแพลตฟอร์ม แทนที่จะดูแลภายนอกเกี่ยวกับการกระทำของแพลตฟอร์มและผลที่ตามมาเท่านั้น
ดังนั้น หน่วยงานกำกับดูแลจึงกำหนดให้อัลกอริทึมเป็นวัตถุควบคุมโดยตรง ซึ่งช่วยให้หน่วยงานกำกับดูแลสามารถเข้าไปแทรกแซงในเทคโนโลยีและรายละเอียดของการตัดสินใจอัตโนมัติได้
2. แพลตฟอร์มประเมินผลกระทบของอัลกอริทึมล่วงหน้า
ในฐานะผู้ประมวลผลข้อมูลส่วนบุคคล แพลตฟอร์มจะต้องดำเนินการประเมินผลกระทบต่อการปกป้องข้อมูลส่วนบุคคลล่วงหน้าและบันทึกข้อมูลการประมวลผลหากพวกเขาใช้ข้อมูลส่วนบุคคลเพื่อการตัดสินใจโดยอัตโนมัติ (มาตรา 55)
การประเมินโดยแพลตฟอร์มจะครอบคลุมสิ่งต่อไปนี้:
A. วัตถุประสงค์ วิธีการ หรือด้านอื่นใดของการประมวลผลข้อมูลส่วนบุคคลนั้นถูกกฎหมาย ถูกต้องตามกฎหมาย และจำเป็น;
ข. ผลกระทบต่อสิทธิส่วนบุคคลและผลประโยชน์และระดับความเสี่ยง และ
ค. มาตรการคุ้มครองความปลอดภัยที่ดำเนินการไปนั้นถูกกฎหมาย มีประสิทธิภาพ และสอดคล้องกับระดับความเสี่ยงหรือไม่
ดังนั้น แพลตฟอร์มจะต้องทำการประเมินล่วงหน้าก่อนที่อัลกอริธึมของการตัดสินใจอัตโนมัติจะทำงาน การประเมินความเสี่ยงรวมถึงความถูกกฎหมายและความจำเป็นของการตัดสินใจโดยอัตโนมัติด้วยอัลกอริธึม ตลอดจนผลกระทบและความเสี่ยง
การตัดสินใจอัตโนมัติแบบอัลกอริธึมที่บกพร่องจากแพลตฟอร์มอาจก่อให้เกิดอันตรายต่อทรัพย์สินของพลเมืองและสิทธิส่วนบุคคล แม้กระทั่งต่อผลประโยชน์สาธารณะและความมั่นคงของชาติ
ดังนั้น ผลกระทบด้านลบอาจส่งผลกระทบต่อผู้ใช้หลายพันคน ณ จุดนั้น แม้ว่าแพลตฟอร์มจะต้องรับผิดชอบ แต่อาจเป็นเรื่องยากที่จะกู้คืนความเสียหายที่ได้ทำไปแล้ว
เพื่อป้องกันสถานการณ์ดังกล่าว กฎหมายได้กำหนดระบบการประเมินล่วงหน้าสำหรับอัลกอริธึมของแพลตฟอร์มเพื่อพยายามแทรกแซงอัลกอริธึมล่วงหน้า
3. แพลตฟอร์มจะต้องรับผิดชอบต่อผลลัพธ์ของการตัดสินใจในภายหลัง
แพลตฟอร์มจะรับภาระผูกพันต่อไปนี้สำหรับผลลัพธ์ของการตัดสินใจโดยอัตโนมัติ (มาตรา 24):
A. แพลตฟอร์มจะต้องตรวจสอบให้แน่ใจว่าผลลัพธ์นั้นยุติธรรมและเป็นกลาง
ในกรณีที่ผู้ประมวลผลข้อมูลส่วนบุคคลดำเนินการตัดสินใจอัตโนมัติกับข้อมูลส่วนบุคคล พวกเขาจะต้องรับรองความโปร่งใสของการตัดสินใจ ความยุติธรรม และความเป็นกลางของผลลัพธ์ และจะต้องไม่ให้การปฏิบัติที่แตกต่างอย่างไม่สมเหตุสมผลแก่บุคคลในแง่ของราคาธุรกรรมหรือเงื่อนไขธุรกรรมอื่น ๆ
ข. แพลตฟอร์มจะต้องให้ทางเลือกในการตัดสินใจโดยอัตโนมัติ โดยไม่มุ่งเป้าไปที่ลักษณะส่วนบุคคลของผู้ใช้
ในกรณีที่การส่งข้อมูลแบบพุชหรือการตลาดเชิงพาณิชย์ไปยังบุคคลนั้นดำเนินการโดยใช้การตัดสินใจแบบอัตโนมัติ ตัวเลือกที่ไม่ได้มุ่งเป้าไปที่ลักษณะส่วนบุคคลของบุคคลหรือวิธีง่ายๆ ในการปฏิเสธที่จะรับจะถูกจัดเตรียมให้กับบุคคลพร้อมๆ กัน
C. เวทีจะต้องทำการอธิบายผลการตัดสินใจ
ในกรณีที่การตัดสินใจที่มีผลกระทบอย่างมีนัยสำคัญต่อสิทธิและผลประโยชน์ของแต่ละบุคคลโดยใช้วิธีการตัดสินใจอัตโนมัติ บุคคลนั้นมีสิทธิที่จะขอให้ผู้ประมวลผลข้อมูลส่วนบุคคลทำการอธิบาย ตลอดจนสิทธิที่จะปฏิเสธการทำ การตัดสินใจโดยผู้ประมวลผลข้อมูลส่วนบุคคลโดยวิธีการตัดสินใจอัตโนมัติเท่านั้น
กฎนี้กำหนดให้แพลตฟอร์มต้องรับผิดชอบต่อผลลัพธ์ของการตัดสินใจโดยอัตโนมัติ ซึ่งรวมถึง:
A. กฎไม่ยอมรับการป้องกัน "ความเป็นกลางทางเทคโนโลยี" ที่ใช้โดยแพลตฟอร์ม แพลตฟอร์มควรรับผิดชอบต่อผลลัพธ์ของการตัดสินใจโดยอัตโนมัติด้วยอัลกอริธึม และควรตรวจสอบให้แน่ใจว่าผลลัพธ์นั้นยุติธรรมและสมเหตุสมผล
ข. กฎขยายสิทธิ์ในการรู้จักผู้ใช้แพลตฟอร์ม ผู้ใช้สามารถร้องขอความโปร่งใสของผลการตัดสินใจโดยอัตโนมัติรวมถึงคำอธิบายจากแพลตฟอร์มในกรณีที่ "ผลกระทบที่มีนัยสำคัญ"
C. กฎกำหนดให้แพลตฟอร์มต้องทำลาย "รังไหมข้อมูล" ที่สร้างขึ้นโดยคำแนะนำที่ปรับให้เหมาะกับผู้ใช้ตามอัลกอริทึม และกำหนดให้แพลตฟอร์มปกป้องสิทธิ์ของผู้ใช้ในการรู้
สาม. ความคิดเห็นของเรา
ประเทศจีนได้พัฒนา PIPL โดยเพิ่มกฎเกณฑ์ทางกฎหมายสำหรับอัลกอริทึมของแพลตฟอร์มในการตัดสินใจโดยอัตโนมัติ อย่างไรก็ตาม ยังคงต้องได้รับการขัดเกลาเพิ่มเติม ตัวอย่างเช่น กฎหมายไม่ได้ชี้แจง:
ก. เงื่อนไขสำหรับแพลตฟอร์มเพื่อเริ่มการประเมินอัลกอริธึม
ข. รายงานการประเมินจะถูกเปิดเผยต่อสาธารณะหลังจากแพลตฟอร์มประเมินอัลกอริธึมของตนหรือไม่ และ
C. วิธีการที่แพลตฟอร์มควรรับผิดชอบต่อความเสียหายที่เกิดจากการตัดสินใจอัตโนมัติของอัลกอริทึม
ฉันเดาว่าหน่วยงานกำกับดูแลของจีนยังคงสำรวจความเป็นไปได้ในการออกกฎข้อบังคับเฉพาะหลายฉบับเพื่อนำ PIPL ไปปฏิบัติต่อไป
ภาพถ่ายโดย Road Trip กับ Raj on Unsplash
ร่วมให้ข้อมูล: กั่วตงดู杜国栋