ผู้สังเกตการณ์ความยุติธรรมของจีน

中司观察

ภาษาอังกฤษอาหรับจีน (ดั้งเดิม)Dutchภาษาฝรั่งเศสภาษาเยอรมันภาษาฮินดีภาษาอิตาลีภาษาญี่ปุ่นเกาหลีโปรตุเกสรัสเซียสเปนสวีเดนชาวอิสราเอลชาวอินโดนีเซียเวียตนามภาษาไทยตุรกีMalay

ประเทศจีนจัดการกับความรับผิดชอบของแพลตฟอร์มในการตัดสินใจเกี่ยวกับอัลกอริทึมอย่างไร

อา., 28 พ.ย. 2021
หมวดหมู่: ข้อมูลเชิงลึก
ร่วมให้ข้อมูล: กั่วตงดู杜国栋

Avatar

 

ประเด็นที่สำคัญ:

  • ฝ่ายนิติบัญญัติของจีนได้ตระหนักถึงบทบาทสำคัญของอัลกอริทึมในการทำงานของแพลตฟอร์มอินเทอร์เน็ต และกำหนดให้เป็น "การตัดสินใจโดยอัตโนมัติ" ในกฎหมายคุ้มครองข้อมูลส่วนบุคคล (PIPL) ที่ประกาศใช้เมื่อวันที่ 20 ส.ค. 2021 ซึ่งควบคุมเทคโนโลยีนี้เป็นครั้งแรก
  • ภายใต้ PIPL แพลตฟอร์มจะต้องประเมินผลกระทบของอัลกอริธึมล่วงหน้า และรับผิดชอบต่อผลลัพธ์ของการตัดสินใจในภายหลัง
  • PIPL ขยายสิทธิ์ในการรู้จักผู้ใช้แพลตฟอร์ม และกำหนดให้แพลตฟอร์มต้องทำลาย "รังไหมข้อมูล" ที่สร้างขึ้นโดยคำแนะนำส่วนบุคคลของอัลกอริทึมสำหรับผู้ใช้


กฎหมายคุ้มครองข้อมูลส่วนบุคคลของจีน (个人信息保护法)ซึ่งมีผลบังคับใช้ในเดือนสิงหาคม พ.ศ. 2021 ได้กำหนดขอบเขตสำหรับแพลตฟอร์มอินเทอร์เน็ตที่ทำการตัดสินใจโดยอัตโนมัติผ่านอัลกอริธึม

. พื้นหลัง

แพลตฟอร์มอินเทอร์เน็ตของจีน ซึ่งโดยทั่วไปคือ TopBuzz และ TikTok ของ ByteDance ใช้อัลกอริธึมการแนะนำอย่างกว้างขวางเพื่อส่งเนื้อหาและผลิตภัณฑ์ไปยังผู้ใช้ของตน

อย่างไรก็ตาม อัลกอริธึมดังกล่าว ซึ่งถูกกล่าวหาว่าแทรกแซงสิทธิ์ของผู้ใช้ในการตัดสินใจโดยเสรีและทำให้เกิดอันตรายทางศีลธรรม ถูกตั้งคำถามโดยสาธารณชนและหน่วยงานกำกับดูแล

ฝ่ายนิติบัญญัติของจีนได้ตระหนักถึงบทบาทสำคัญของอัลกอริธึมในการทำงานของแพลตฟอร์มดังกล่าว และกำหนดให้เป็น "การตัดสินใจโดยอัตโนมัติ" ในกฎหมายคุ้มครองข้อมูลส่วนบุคคล (ต่อไปนี้จะเรียกว่า "PIPL") ซึ่งประกาศใช้เมื่อวันที่ 20 ส.ค. 2021 ซึ่งควบคุมเทคโนโลยีนี้สำหรับ ครั้งแรก.

ตาม PIPL การตัดสินใจอัตโนมัติหมายถึงกิจกรรมของการวิเคราะห์และประเมินพฤติกรรมพฤติกรรม งานอดิเรก หรือสถานะทางการเงิน สุขภาพ และเครดิตของแต่ละบุคคลโดยอัตโนมัติผ่านโปรแกรมคอมพิวเตอร์และการตัดสินใจในเรื่องนั้น (มาตรา 73)

ก่อนหน้านั้น มีความคิดเห็นแตกแยกเกี่ยวกับความรับผิดของแพลตฟอร์มในการตัดสินใจโดยอัตโนมัติ ตัวอย่างเช่น บางคนเชื่อว่าแพลตฟอร์มไม่ควรรับผิดชอบต่อผลลัพธ์ของอัลกอริธึมการตัดสินใจแบบอัตโนมัติ ซึ่งโดยพื้นฐานแล้วเป็นเทคโนโลยีที่เป็นกลาง อย่างไรก็ตาม PIPL ชี้แจงสิ่งที่ตรงกันข้าม

. ข้อจำกัดบนแพลตฟอร์ม

1. หน่วยงานกำกับดูแลตรวจสอบอัลกอริทึมโดยตรง

ในฐานะผู้ประมวลผลข้อมูลส่วนบุคคล แพลตฟอร์มจะต้องตรวจสอบการปฏิบัติตามการประมวลผลข้อมูลส่วนบุคคลด้วยกฎหมายและระเบียบข้อบังคับด้านการบริหารเป็นประจำ (มาตรา 54)

สิ่งนี้ต้องใช้แพลตฟอร์มเพื่อตรวจสอบการตัดสินใจอัตโนมัติของอัลกอริทึมและกิจกรรมการประมวลผลข้อมูลอื่นๆ เป็นระยะ

ตามกฎแล้ว หน่วยงานกำกับดูแลยังสามารถดำเนินการตรวจสอบภายในเกี่ยวกับการทำงานของอัลกอริทึมของแพลตฟอร์ม แทนที่จะดูแลภายนอกเกี่ยวกับการกระทำของแพลตฟอร์มและผลที่ตามมาเท่านั้น

ดังนั้น หน่วยงานกำกับดูแลจึงกำหนดให้อัลกอริทึมเป็นวัตถุควบคุมโดยตรง ซึ่งช่วยให้หน่วยงานกำกับดูแลสามารถเข้าไปแทรกแซงในเทคโนโลยีและรายละเอียดของการตัดสินใจอัตโนมัติได้

2. แพลตฟอร์มประเมินผลกระทบของอัลกอริทึมล่วงหน้า 

ในฐานะผู้ประมวลผลข้อมูลส่วนบุคคล แพลตฟอร์มจะต้องดำเนินการประเมินผลกระทบต่อการปกป้องข้อมูลส่วนบุคคลล่วงหน้าและบันทึกข้อมูลการประมวลผลหากพวกเขาใช้ข้อมูลส่วนบุคคลเพื่อการตัดสินใจโดยอัตโนมัติ (มาตรา 55)

การประเมินโดยแพลตฟอร์มจะครอบคลุมสิ่งต่อไปนี้:

A. วัตถุประสงค์ วิธีการ หรือด้านอื่นใดของการประมวลผลข้อมูลส่วนบุคคลนั้นถูกกฎหมาย ถูกต้องตามกฎหมาย และจำเป็น;

ข. ผลกระทบต่อสิทธิส่วนบุคคลและผลประโยชน์และระดับความเสี่ยง และ

ค. มาตรการคุ้มครองความปลอดภัยที่ดำเนินการไปนั้นถูกกฎหมาย มีประสิทธิภาพ และสอดคล้องกับระดับความเสี่ยงหรือไม่

ดังนั้น แพลตฟอร์มจะต้องทำการประเมินล่วงหน้าก่อนที่อัลกอริธึมของการตัดสินใจอัตโนมัติจะทำงาน การประเมินความเสี่ยงรวมถึงความถูกกฎหมายและความจำเป็นของการตัดสินใจโดยอัตโนมัติด้วยอัลกอริธึม ตลอดจนผลกระทบและความเสี่ยง

การตัดสินใจอัตโนมัติแบบอัลกอริธึมที่บกพร่องจากแพลตฟอร์มอาจก่อให้เกิดอันตรายต่อทรัพย์สินของพลเมืองและสิทธิส่วนบุคคล แม้กระทั่งต่อผลประโยชน์สาธารณะและความมั่นคงของชาติ

ดังนั้น ผลกระทบด้านลบอาจส่งผลกระทบต่อผู้ใช้หลายพันคน ณ จุดนั้น แม้ว่าแพลตฟอร์มจะต้องรับผิดชอบ แต่อาจเป็นเรื่องยากที่จะกู้คืนความเสียหายที่ได้ทำไปแล้ว

เพื่อป้องกันสถานการณ์ดังกล่าว กฎหมายได้กำหนดระบบการประเมินล่วงหน้าสำหรับอัลกอริธึมของแพลตฟอร์มเพื่อพยายามแทรกแซงอัลกอริธึมล่วงหน้า

3. แพลตฟอร์มจะต้องรับผิดชอบต่อผลลัพธ์ของการตัดสินใจในภายหลัง

แพลตฟอร์มจะรับภาระผูกพันต่อไปนี้สำหรับผลลัพธ์ของการตัดสินใจโดยอัตโนมัติ (มาตรา 24):

A. แพลตฟอร์มจะต้องตรวจสอบให้แน่ใจว่าผลลัพธ์นั้นยุติธรรมและเป็นกลาง

ในกรณีที่ผู้ประมวลผลข้อมูลส่วนบุคคลดำเนินการตัดสินใจอัตโนมัติกับข้อมูลส่วนบุคคล พวกเขาจะต้องรับรองความโปร่งใสของการตัดสินใจ ความยุติธรรม และความเป็นกลางของผลลัพธ์ และจะต้องไม่ให้การปฏิบัติที่แตกต่างอย่างไม่สมเหตุสมผลแก่บุคคลในแง่ของราคาธุรกรรมหรือเงื่อนไขธุรกรรมอื่น ๆ

ข. แพลตฟอร์มจะต้องให้ทางเลือกในการตัดสินใจโดยอัตโนมัติ โดยไม่มุ่งเป้าไปที่ลักษณะส่วนบุคคลของผู้ใช้

ในกรณีที่การส่งข้อมูลแบบพุชหรือการตลาดเชิงพาณิชย์ไปยังบุคคลนั้นดำเนินการโดยใช้การตัดสินใจแบบอัตโนมัติ ตัวเลือกที่ไม่ได้มุ่งเป้าไปที่ลักษณะส่วนบุคคลของบุคคลหรือวิธีง่ายๆ ในการปฏิเสธที่จะรับจะถูกจัดเตรียมให้กับบุคคลพร้อมๆ กัน

C. เวทีจะต้องทำการอธิบายผลการตัดสินใจ

ในกรณีที่การตัดสินใจที่มีผลกระทบอย่างมีนัยสำคัญต่อสิทธิและผลประโยชน์ของแต่ละบุคคลโดยใช้วิธีการตัดสินใจอัตโนมัติ บุคคลนั้นมีสิทธิที่จะขอให้ผู้ประมวลผลข้อมูลส่วนบุคคลทำการอธิบาย ตลอดจนสิทธิที่จะปฏิเสธการทำ การตัดสินใจโดยผู้ประมวลผลข้อมูลส่วนบุคคลโดยวิธีการตัดสินใจอัตโนมัติเท่านั้น

กฎนี้กำหนดให้แพลตฟอร์มต้องรับผิดชอบต่อผลลัพธ์ของการตัดสินใจโดยอัตโนมัติ ซึ่งรวมถึง:

A. กฎไม่ยอมรับการป้องกัน "ความเป็นกลางทางเทคโนโลยี" ที่ใช้โดยแพลตฟอร์ม แพลตฟอร์มควรรับผิดชอบต่อผลลัพธ์ของการตัดสินใจโดยอัตโนมัติด้วยอัลกอริธึม และควรตรวจสอบให้แน่ใจว่าผลลัพธ์นั้นยุติธรรมและสมเหตุสมผล

ข. กฎขยายสิทธิ์ในการรู้จักผู้ใช้แพลตฟอร์ม ผู้ใช้สามารถร้องขอความโปร่งใสของผลการตัดสินใจโดยอัตโนมัติรวมถึงคำอธิบายจากแพลตฟอร์มในกรณีที่ "ผลกระทบที่มีนัยสำคัญ"

C. กฎกำหนดให้แพลตฟอร์มต้องทำลาย "รังไหมข้อมูล" ที่สร้างขึ้นโดยคำแนะนำที่ปรับให้เหมาะกับผู้ใช้ตามอัลกอริทึม และกำหนดให้แพลตฟอร์มปกป้องสิทธิ์ของผู้ใช้ในการรู้

สาม. ความคิดเห็นของเรา

ประเทศจีนได้พัฒนา PIPL โดยเพิ่มกฎเกณฑ์ทางกฎหมายสำหรับอัลกอริทึมของแพลตฟอร์มในการตัดสินใจโดยอัตโนมัติ อย่างไรก็ตาม ยังคงต้องได้รับการขัดเกลาเพิ่มเติม ตัวอย่างเช่น กฎหมายไม่ได้ชี้แจง:

ก. เงื่อนไขสำหรับแพลตฟอร์มเพื่อเริ่มการประเมินอัลกอริธึม

ข. รายงานการประเมินจะถูกเปิดเผยต่อสาธารณะหลังจากแพลตฟอร์มประเมินอัลกอริธึมของตนหรือไม่ และ 

C. วิธีการที่แพลตฟอร์มควรรับผิดชอบต่อความเสียหายที่เกิดจากการตัดสินใจอัตโนมัติของอัลกอริทึม

ฉันเดาว่าหน่วยงานกำกับดูแลของจีนยังคงสำรวจความเป็นไปได้ในการออกกฎข้อบังคับเฉพาะหลายฉบับเพื่อนำ PIPL ไปปฏิบัติต่อไป

 

ภาพถ่ายโดย Road Trip กับ Raj on Unsplash

 

 

 

 

 

ร่วมให้ข้อมูล: กั่วตงดู杜国栋

บันทึกเป็น PDF

กฎหมายที่เกี่ยวข้องเกี่ยวกับ China Laws Portal

นอกจากนี้คุณยังอาจต้องการ

ผู้พิพากษาชาวจีนกล่าวถึงการบริการกระบวนการข้ามพรมแดน: ข้อมูลเชิงลึกจากผู้พิพากษาศาลฎีกาของจีนเกี่ยวกับการแก้ไขกฎหมายวิธีพิจารณาความแพ่งปี 2023 (2)

กฎหมายวิธีพิจารณาความแพ่ง พ.ศ. 2023 ใช้แนวทางที่มุ่งเน้นปัญหา จัดการกับปัญหาในการให้บริการกระบวนการสำหรับคดีที่เกี่ยวข้องกับต่างประเทศด้วยการขยายช่องทางและลดระยะเวลาการให้บริการตามระยะเวลาการเผยแพร่ลงเหลือ 60 วันสำหรับบุคคลที่ไม่มีภูมิลำเนา ซึ่งสะท้อนให้เห็นถึงความคิดริเริ่มที่กว้างขึ้นเพื่อเพิ่มประสิทธิภาพ และปรับกระบวนการทางกฎหมายให้เข้ากับความซับซ้อนของการดำเนินคดีระหว่างประเทศ

ผู้พิพากษาชาวจีนเกี่ยวกับเขตอำนาจศาลแพ่งระหว่างประเทศกล่าวถึงสิ่งนี้: ข้อมูลเชิงลึกจากผู้พิพากษาศาลฎีกาของจีนเกี่ยวกับการแก้ไขกฎหมายวิธีพิจารณาความแพ่งปี 2023 (1)

ข้อมูลเชิงลึกจากผู้พิพากษาศาลฎีกาของจีนเกี่ยวกับการแก้ไขกฎหมายวิธีพิจารณาความแพ่งปี 2023 เน้นย้ำถึงการเปลี่ยนแปลงที่สำคัญในกฎวิธีพิจารณาคดีแพ่งระหว่างประเทศ ซึ่งรวมถึงการขยายเขตอำนาจศาลของจีน การปรับปรุงเขตอำนาจศาลโดยยินยอม และการประสานงานของข้อขัดแย้งในเขตอำนาจศาลระหว่างประเทศ

ศาลปักกิ่งเผยแพร่รายงานการละเมิดข้อมูลส่วนบุคคลของพลเมือง

จัดทำแผนผังวิวัฒนาการของภูมิทัศน์การคุ้มครองข้อมูลของจีน ตั้งแต่การแก้ไขกฎหมายอาญาปี 2009 ไปจนถึงกฎหมายความปลอดภัยทางไซเบอร์ปี 2016 และกฎหมายคุ้มครองข้อมูลส่วนบุคคลปี 2021 เอกสารไวท์เปเปอร์สำคัญที่ออกโดยศาลประชาชนสูงปักกิ่งในเดือนพฤศจิกายน 2023 ตอกย้ำบทบาทของศาลจีนในการบังคับใช้ กฎเกณฑ์ที่เข้มงวดสำหรับผู้ให้บริการเครือข่ายและการปกป้องข้อมูลส่วนบุคคลของประชาชน

จีนออกแนวปฏิบัติสำหรับการถ่ายโอนข้อมูลส่วนบุคคลออก

ในเดือนพฤษภาคม 2023 Cyberspace Administration of China (CAC) ได้ออก "หลักเกณฑ์สำหรับการยื่นสัญญามาตรฐานสำหรับการถ่ายโอนข้อมูลส่วนบุคคลขาออก (ฉบับพิมพ์ครั้งแรก)" ซึ่งระบุข้อกำหนดเฉพาะสำหรับวิธีการ ขั้นตอน และเอกสารสำหรับการยื่นสัญญามาตรฐาน สำหรับการถ่ายโอนข้อมูลส่วนบุคคลออก

จีนออกกฎหมายคุ้มครองระบบนิเวศสำหรับที่ราบสูงชิงไห่-ทิเบต

ในเดือนเมษายน พ.ศ. 2023 สภานิติบัญญัติของจีน ซึ่งเป็นคณะกรรมการประจำสภาประชาชนแห่งชาติ ได้นำกฎหมายของจีนว่าด้วยการคุ้มครองระบบนิเวศของที่ราบสูงชิงไห่-ทิเบต

จีนแก้ไขกฎหมายต่อต้านจารกรรม

ในเดือนเมษายน พ.ศ. 2023 สภานิติบัญญัติของจีน ซึ่งเป็นคณะกรรมการประจำสภาประชาชนแห่งชาติ ได้ผ่านกฎหมายต่อต้านจารกรรมของจีนฉบับแก้ไข

จีนแก้ไขระเบียบการเกณฑ์ทหาร

เมื่อวันที่ 1 เมษายน พ.ศ. 2023 สภาแห่งรัฐของจีนและคณะกรรมาธิการการทหารส่วนกลางได้ร่วมกันประกาศใช้ "กฎระเบียบเกี่ยวกับการเกณฑ์ทหาร" (征兵工作条例) ฉบับแก้ไข

ระบบการปิดผนึกประวัติอาชญากรรมของเยาวชนในประเทศจีน

ภายใต้กฎหมายอาญาของจีน เมื่อผู้เยาว์อายุครบ 18 ปีเมื่อก่ออาชญากรรมและถูกตัดสินจำคุกห้าปีหรือโทษเบากว่านั้น ประวัติอาชญากรรมที่เกี่ยวข้องจะถูกปิดผนึกเพื่อเก็บรักษาไว้

จีนออกสัญญามาตรฐานสำหรับการส่งออกข้อมูล

ในเดือนกุมภาพันธ์ พ.ศ. 2023 หน่วยงานไซเบอร์สเปซของจีนได้ออก "มาตรการมาตรฐานสำหรับสัญญามาตรฐานสำหรับการส่งออกข้อมูลส่วนบุคคล" และ "สัญญามาตรฐานสำหรับการส่งออกข้อมูลส่วนบุคคล"

จีนจะควบคุมเจเนอเรทีฟเอไอ: พิจารณาร่างมาตรการดูแลบริการเจเนอเรทีฟเอไอ

ChatGPT กลายเป็นหนึ่งในหัวข้อที่ร้อนแรงที่สุดทั่วโลก ระบบ AI ดังกล่าวเรียกว่า 'Generative AI' ซึ่งสามารถสร้างข้อความ รูปภาพ เสียง สื่อ รหัส และวัสดุอื่น ๆ เพื่อตอบสนองต่อสิ่งที่ผู้ใช้นำเข้าหรือต้องการ ตามอัลกอริทึม แบบจำลอง และกฎ