ทุกคนที่ใช้อินเทอร์เน็ตเพื่อความบันเทิง
การศึกษา ข่าว หรือการค้า ล้วนมีส่วนเกี่ยวข้องในเว็บของการรวบรวมข้อมูลที่มีความกว้างเกินกว่าการรับรู้ทั่วไป
เครดิต: Lee Woodgate / Getty
เมื่อเดือนพฤษภาคมที่ผ่านมา สล็อตแตกง่ายการสอบสวนของวุฒิสภาสหรัฐฯ รายงานว่าการเข้าชมเว็บไซต์ข่าวแท็บลอยด์ที่ได้รับความนิยมเพียงครั้งเดียวทำให้เกิดกิจกรรมบนเว็บเซิร์ฟเวอร์อื่นๆ มากกว่า 350 รายการ ผู้ติดต่อเหล่านั้นส่วนใหญ่ รวมทั้งการส่งโฆษณา มีแนวโน้มว่าจะไม่เป็นพิษเป็นภัย แต่โดยปกติแล้วพวกเขาจะฝาก ‘คุกกี้’ ของซอฟต์แวร์ไว้ในคอมพิวเตอร์ของผู้เยี่ยมชม สิ่งเหล่านี้ช่วยให้สามารถระบุและติดตามผู้เยี่ยมชม สร้างโปรไฟล์ดิจิทัลตามความสนใจและรูปแบบพฤติกรรมออนไลน์ของพวกเขา
อินเทอร์เน็ตอาศัยข้อมูลผู้ใช้เพื่อสร้างรายได้จากการโฆษณาที่ปรับให้เหมาะสมซึ่งสามารถรองรับการเติบโตและใช้งานได้ฟรี แต่การทำโปรไฟล์ดิจิทัลในท้ายที่สุดช่วยสร้างสิ่งที่ศาสตราจารย์ด้านกฎหมาย Frank Pasquale เรียกว่า “สังคมกล่องดำ” ตามการเปิดเผยชื่อนั้น นี่คือสังคมที่ทำหน้าที่พื้นฐานในความสับสนโดยเจตนาผ่านการรวบรวมและการจัดการอัลกอริธึมของข้อมูลส่วนบุคคล
อัลกอริธึมกล่องดำสามารถใช้ในการอนุมานที่น่าเชื่อถือเกี่ยวกับตำแหน่งของอาสาสมัคร อายุ สภาพทางการแพทย์ ความเกี่ยวข้องทางการเมือง และอื่นๆ ตัวอย่างเช่น Target บริษัทค้าปลีกยักษ์ใหญ่ของสหรัฐฯ ใช้ข้อมูลเกี่ยวกับการซื้ออาหารเสริมวิตามินและถุงขนาดใหญ่เพื่อสรุป – เพื่อวัตถุประสงค์ทางการตลาด – ไม่ว่าลูกค้าจะตั้งครรภ์หรือไม่ เนื่องจากการใช้อัลกอริธึมดังกล่าวกับงานเฉพาะสามารถเป็นประโยชน์ทางเศรษฐกิจสำหรับผู้โฆษณาหรือผู้ให้กู้ อัลกอริทึมมักจะไม่เปิดเผยเป็น ‘ความลับทางการค้า’ แต่ Pasquale กังวลว่าสามารถใช้เพื่อกำหนดสิ่งที่เรารู้ วิธีการรับรู้ของเรา และโอกาสที่เราจะได้รับ เขากล่าวว่าการพึ่งพา Google หรือเครื่องมือค้นหาอื่นๆ เพิ่มมากขึ้น ส่งเสริมการพึ่งพาหลักการปฏิบัติงานในการเลือกและการจัดลำดับความสำคัญมากขึ้น ซึ่งส่วนใหญ่จะมีความทึบแสง เกินกว่าที่พวกเขาจะสะท้อน (และเสริมกำลัง) ความนิยม แหล่งข้อมูลที่เสิร์ชเอ็นจิ้นละเลยหรือระงับจะไม่สามารถค้นพบได้ และหากอัลกอริธึมของเสิร์ชเอ็นจิ้นสนับสนุนผลประโยชน์ของบริษัทของบริษัทเองอย่างละเอียด เราอาจไม่เคยรู้มาก่อน
ในขณะเดียวกัน ชื่อเสียงของเราถูกกำหนดด้วยวิธีที่สำคัญโดยการให้คะแนนเครดิตอัตโนมัติและกิจกรรมการทำโปรไฟล์อัลกอริธึมอื่น ๆ ที่ใช้ในการพิจารณา เช่น ความคุ้มค่าในเครดิตหรือความเหมาะสมสำหรับการจ้างงาน ข้อมูลจากร้านขายยาเกี่ยวกับการซื้อตามใบสั่งแพทย์ถูกใช้โดยบริษัทประกันสุขภาพเพื่อปฏิเสธความคุ้มครองส่วนบุคคล ทว่าความสามารถของเราในการตรวจสอบ แก้ไข หรือท้าทายโปรไฟล์ดังกล่าวมีข้อจำกัดอย่างมาก การตัดสินใจแบบ Black-box ยังมีบทบาทสำคัญในอุตสาหกรรมการเงิน ซึ่งใช้การตัดสินใจเหล่านี้เพื่อใช้ประโยชน์จากการเข้าถึงข้อมูลที่เกี่ยวข้องกับตลาดที่แตกต่างกัน Pasquale เชื่อว่าการเงินได้รับความลึกลับที่ไม่สมควรได้รับ โดยการนำขั้นตอนที่เข้มงวดในการคำนวณมาใช้ในการสร้างแบบจำลองและคาดการณ์พฤติกรรมของตลาด โดยกล่าวเกินความจริงของแบบจำลองดังกล่าวและปกปิดความเสี่ยงจากนักลงทุนและหน่วยงานกำกับดูแล
ฉนวนของแนวทางปฏิบัติเกี่ยวกับกล่องดำ
จากการตรวจสอบหรือประเมินผลสาธารณะนั้นอยู่ใกล้กับรากเหง้าของปัญหา: มันมักจะกีดกันการกำกับดูแลที่เป็นอิสระ การแก้ไขข้อผิดพลาด และแม้กระทั่งการแข่งขันในตลาดเสรี อย่างน่าทึ่ง รัฐสภาคองเกรสแห่งสหรัฐอเมริกาพบว่าการกำกับดูแลข้อมูลจากป้อมปราการข่าวกรอง เช่น สำนักงานความมั่นคงแห่งชาติ ทำได้ง่ายกว่าจากบริษัทบางแห่งในซิลิคอน วัลเลย์
Pasquale จัดทำแบบสำรวจข้อมูลการพัฒนาในด้านตัวแทนของการค้นหา ชื่อเสียง และการเงิน เพื่อสนับสนุนข้อโต้แย้งของเขาว่าแนวทางที่ไม่เป็นธรรมในการตัดสินใจด้วยอัลกอริทึมกำลังนำเราไปยังสถานที่ที่พวกเราส่วนใหญ่ไม่ต้องการไป เมื่ออำนาจของผู้ให้บริการโฆษณา เช่น Google AdSense เติบโตขึ้น สิ่งพิมพ์ออนไลน์จำนวนมากเห็นว่ารายได้จากการโฆษณาลดลง ‘ศูนย์หลอมรวม’ ความมั่นคงแห่งมาตุภูมิกำลังรวมการรวบรวมข้อมูลของรัฐบาล (ซึ่งถูกจำกัดโดยกฎหมาย) กับข้อมูลที่ไม่ได้รับการควบคุมจากนายหน้าข้อมูลส่วนตัว ในนามของการแบ่งปันข้อมูล Pasquale ชี้ไปที่ Office of Financial Research ที่ไม่ค่อยมีใครรู้จักของกระทรวงการคลังสหรัฐฯ ซึ่งบางครั้งเรียกว่า “CIA of Finance” ซึ่งมีจุดมุ่งหมายเพื่อให้หน่วยงานกำกับดูแลได้รับข้อมูลแบบเรียลไทม์เกี่ยวกับตลาดการเงิน
มีหลุดบ้างเป็นบางครั้ง คำพูดของ Pasquale ที่ว่า “ความขัดแย้งทางการเมืองเป็นเป้าหมายประจำสำหรับการสอดแนมโดย FBI” เช่น ไม่ถูกต้อง บ่อยขึ้น หนังสือเล่มนี้ให้ข้อมูลเชิงลึกที่สงสัยอย่างเหมาะสม Twitter บล็อกการประท้วง Occupy Wall Street ในปี 2011 จากรายการหัวข้อที่ได้รับความนิยมสูงหรือไม่นักวิจารณ์สงสัย? คำตอบคือไม่: แนวโน้มเป็นภาพสะท้อนของความโดดเด่นที่เพิ่มขึ้นสัมพันธ์กัน ไม่ใช่ความนิยมอย่างแท้จริง เนื่องจากในที่สุดเจ้าหน้าที่ของ Twitter ก็ยอมที่จะอธิบาย
สิ่งที่ตรงกันข้ามกับสังคมกล่องดำคือ “สังคมที่เข้าใจได้” และการอภิปรายของ Pasquale เกี่ยวกับเรื่องนี้นำเสนอข้อเสนอการแก้ไขทั้งขนาดใหญ่และขนาดเล็ก เหตุใดหอสมุดรัฐสภาสหรัฐฯ จึงไม่สามารถจัดหาฟังก์ชันค้นหาหนังสือสาธารณะเพื่อเสริมโครงการแปลงเป็นดิจิทัล Google หนังสือได้ ทำไมไม่ลองจ้างระบบการให้คะแนนเครดิตสาธารณะโดยใช้ซอฟต์แวร์โอเพนซอร์ซล่ะ? คำถามพื้นฐานคือ เหตุใดเครื่องมือในการตัดสินใจอัลกอริธึมจึงไม่สามารถต่อต้านระบบกล่องดำในลักษณะที่เปิดกว้างและรับผิดชอบได้
เป็นเรื่องที่น่าดึงดูดใจที่จะบอกว่ากระบวนการทางการเมืองที่จำเป็นในการปฏิรูปดังกล่าวได้กลายเป็นกล่องดำ แต่ในThe Black Box Society Pasquale พบเหตุผลที่เชื่อได้ว่าแม้แต่สถาบันที่มีความลับและไม่ตอบสนองที่สุดบางแห่งก็สามารถถูกนำมาพิจารณาได้ การอธิบายปัญหาเป็นขั้นตอนแรกสล็อตแตกง่าย
