تلعب بياناتنا الشخصية وطرق حصاد الشركات الخاصة لها واستثمارها دورًا قويًا بشكل متزايد في الحياة الحديثة. قواعد بيانات الشركات واسعة ومترابطة ومبهمة. من الصعب فهم حركة واستخدام بياناتنا، ناهيك عن تتبعها. ومع ذلك، تستخدمه الشركات للوصول إلى استنتاجات عنا، مما يؤدي إلى فقدان فرص العمل والائتمان وغيرها من الفرص.
أحد الخيوط الموحدة لهذا النظام المتفشي هو جمع المعلومات الشخصية من المجتمعات المهمشة، والاستخدام التمييزي اللاحق من قبل الشركات والوكالات الحكومية - مما يؤدي إلى تفاقم عدم المساواة الهيكلية القائمة عبر المجتمع. تعد مراقبة البيانات إحدى تحديات الحقوق المدنية، ويمكن أن تساعد التشريعات الخاصة بحماية خصوصية البيانات في حماية الحقوق المدنية.
الجمع التمييزي للبيانات
تعالج هواتفنا وأجهزتنا الأخرى قدرًا هائلاً من المعلومات الشخصية شديدة الحساسية التي تجمعها الشركات وتبيعها لتحقيق أرباح مذهلة. هذا يحفز الجهات الفاعلة عبر الإنترنت على جمع أكبر قدر ممكن من المعلومات السلوكية الخاصة بنا. في بعض الحالات، يتم تتبع كل نقرة بالفأرة وسحب الشاشة ثم بيعها لشركات تكنولوجيا الإعلانات ووسطاء البيانات الذين يقدمون خدماتهم/ن.
عندما يتم استخدام تطبيقات الأجهزة المحمولة بشكل متباين من قبل مجموعات محددة، يمكن أن يؤدي جمع البيانات الشخصية ومشاركتها إلى تفاقم مشاكل الحقوق المدنية. على سبيل المثال، باع تطبيق صلاة المسلمين/ات (Muslim Pro) بيانات تحديد الموقع الجغرافي لمستخدميه/اته لشركة تسمى X-Mode ، والتي بدورها وفرت الوصول إلى هذه البيانات للجيش الأمريكي من خلال مقاولي الدفاع. على الرغم من توقف Muslim Pro عن بيع البيانات إلى X-Mode ، إلا أن الحقيقة المروعة تبقى: جمع هذه البيانات وبيعها على نطاق واسع من قبل العديد من الشركات يجعل المستخدمين/ات عرضة للتمييز. ومع ذلك، فإن العديد من الشركات التي تجمع بيانات تحديد الموقع الجغرافي يمكنها تحقيق ربح سريع من خلال بيعها. ووكالات إنفاذ القانون والوكالات الحكومية الأخرى مشترين منتظمين/ات.
في العام 2016، تم التوصل إلى أن تويتر وفيسبوك وإنستغرام و9 منصات وسائط اجتماعية أخرى قامت بتزويد شركة البرمجيات Geofeedia بمعلومات الوسائط الاجتماعية وبيانات الموقع من مستخدميها/ مستخدماتها. تم استخدام هذه البيانات لاحقًا من قبل أقسام الشرطة في جميع أنحاء الولايات المتحدة لتعقب وتحديد الأفراد الذين حضروا احتجاجات حياة السود مهمة. كان مكتب التحقيقات الفيدرالي أيضًا عميلًا لشركة Geofeedia ، وكشف تقرير صادر عن موقع The Intercept أن شركة المشاريع التابعة لوكالة المخابرات المركزية، In-Q-Tel ، قد استثمرت في Geofeedia. توضح هذه الأمثلة كيف يمكن أن يكون لرصد وسائل التواصل الاجتماعي، وجمع البيانات المفرط، والإفصاح عن طريق المنصات الرقمية عواقب بعيدة المدى غير عادلة على السود.
علاوة على ذلك، غالبًا ما يكون الأشخاص ذوو الدخل المنخفض أقل قدرة على تجنب حصاد الشركات لبياناتهم/ن. على سبيل المثال، تجمع بعض التقنيات منخفضة السعر بيانات أكثر من التقنيات الأخرى، مثل الهواتف الذكية غير المكلفة التي تأتي مع تطبيقات مثبتة مسبقًا تسرّب البيانات ولا يمكن حذفها. وبالمثل، تطلب بعض شركات التكنولوجيا من العملاء دفع مبلغ إضافي لتجنب مراقبة البيانات، مثل AT&T بمجرد فرض رسوم قدرها 29 دولارًا شهريًا على عملاء مزود خدمة الإنترنت لتجنب تتبع سجل التصفح الخاص بهم/ن. وبالمثل، تطلب بعض شركات التكنولوجيا من العملاء/ العميلات دفع مبلغ إضافي مقابل ميزات الأمان الأساسية التي تحميهم/ن من سرقة البيانات، مثل خطة تويتر الجديدة لتحصيل 11 دولارًا شهريًا للتحقق بخطوتين. للأسف، غالبًا ما تكون خصوصية البيانات ترفًا لا يستطيع الأشخاص ذوو الدخل المنخفض تحمله.
الاستخدام التمييزي للبيانات في ظهور الإعلانات
بمجرد جمع البيانات الشخصية، تُعرض المعلومات الحساسة للغاية حول ملايين الأشخاص للبيع على نطاق واسع. تستخدمه الشركات والحكومات بطرق تستهدف بعض الفئات الضعيفة في المجتمع للعلاج غير المرغوب فيه - وتستبعد الآخرين من الفرص المهمة. على الرغم من القواعد القانونية ضد التمييز على أساس العرق والجنس والخصائص الأخرى، فقد استخدمت العديد من الشركات الخوارزميات التي تستهدف الإعلانات على هذه الخصائص بالذات.
تستخدم العديد من المنصات والمعلنين/ات البيانات الشخصية لاستهداف الإعلانات لبعض الأشخاص دون غيرهم/ن. على سبيل المثال، تتيح أداة الجماهير المخصصة من تويتر للمعلنين/ات استهداف المستخدمين/ات بالكلمات الرئيسية والاهتمامات والموقع الجغرافي، بينما تستخدم جوجل أداة مطابقة العملاء/ العميلات للمعلنين/ات لدمج معلوماتهم/ن مع بيانات مستخدم جوجل.
غالبًا ما يكون هذا الاستهداف تمييزيًا. وجد مجلس الاحتياطي الفيدرالي أنه "حتى المستهلكين/ات الذين/ اللواتي يسعون للحصول على معلومات لاتخاذ قرارات مستنيرة قد يتم إحباطهم/ن من اتخاذ أفضل الخيارات لأنفسهم/ن أو لعائلاتهم/ن، وبدلاً من ذلك قد يخضعون للتوجيه أو التخطيط الرقمي".
وجهت الشركات الإعلانات المحفوفة بالمخاطر إلى الفئات الضعيفة. تم استهداف الآلاف من كبار السن بإعلانات الحيل الاستثمارية من قبل مقرضي الرهن العقاري. وبالمثل، استهدفت الإعلانات السياسية مجموعات الأقليات العرقية - مما أدى إلى قمع الناخبين/ات. أصبح هذا ممكنًا من خلال الجمع الجماعي للمعلومات الشخصية وتجميعها في ملفات تحدد الخصائص مثل العرق. تضمن أحد الإعلانات المستهدفة التي استخدمها الرئيس السابق ترامب رسمًا متحركًا لهيلاري كلينتون سعت إلى إقناع الناخبين السود بعدم التصويت في يوم الانتخابات.
تُستخدم البيانات الشخصية أيضًا لمنع مجموعات معينة من تلقي إعلانات للحصول على فرص إيجابية. في العام 2016، على سبيل المثال، كشفت ProPublica أن فيسبوك سمح للمعلنين/ات باستبعاد المجموعات العرقية المحمية من مشاهدة محتواها. ذكرت إحدى المجلات الأكاديمية سابقًا أن النساء يتلقين إعلانات عبر الإنترنت أقل من الرجال لوظائف ذات رواتب عالية. يمكن أن يحدث التأثير التمييزي حتى عندما لا ينوي المعلن التمييز. في العام 2018، وجد Upturn أن فيسبوك وزع إعلانه لوظيفة سائق/ة حافلة على جمهور كان 80٪ من الرجال، على الرغم من أن Upturn لم يكن ينوي استهداف الإعلان على أساس الجنس.
كما تم توزيع إعلانات الإسكان بطريقة تمييزية عنصرية. في العام 2019، واجه فيسبوك دعوى قضائية في المحكمة الفيدرالية تزعم أن المنصة احتفظت بـ "قائمة مملوءة مسبقًا بالتركيبة السكانية والسلوكيات والاهتمامات" لوسطاء العقارات وأصحاب العقارات لاستبعاد بعض المشترين/ات أو المستأجرين/ات من رؤية إعلاناتهم/ن. وزعمت الدعوى كذلك أن هذا سمح "بوضع إعلانات المساكن التي استبعدت النساء وذوي الإعاقة وذوي أصول معينة". تطور نظام فيسبوك منذ ذلك الحين بعد اتفاق مع وزارة العدل الأمريكية. عند الإعلان عن التسوية، أوضحت الحكومة أن خوارزميات فيسبوك انتهكت قوانين الإسكان الفيدرالية العادلة.
يؤدي النظام واسع الانتشار للشركات التي تجمع المعلومات الشخصية وتحقق منها الدخل في كثير من الحالات إلى عرض إعلانات تمييزي. نتيجة لذلك، تفقد المجموعات المحمية فرصًا مهمة للوظائف والإسكان. لتجنب مثل هذا التمييز في عرض الإعلانات، نحتاج إلى قوانين تحد من الجمع الأولي للمعلومات الشخصية.
الاستخدام التمييزي للبيانات في صنع القرار الآلي
تستخدم البنوك وأصحاب العقارات أنظمة اتخاذ القرار الآلية للمساعدة في تقرير تقديم الخدمات للعملاء/ العميلات المحتملين/ات من عدمه. وبالمثل، يستخدم أصحاب العمل هذه الأنظمة للمساعدة في اختيار الموظفين/ات، وتستخدمها الكليات للمساعدة في اختيار الطلاب/ الطالبات. مثل هذه الأنظمة تميز ضد الفئات الضعيفة. هناك العديد من الحلول لهذه المشكلة، بما في ذلك الشفافية الخوارزمية، والتطبيق الصارم للقوانين ضد السياسات التنظيمية التي تؤثر بشكل متباين على الفئات الضعيفة.
يتمثل جزء من المشكلة في أن أنظمة اتخاذ القرار الآلية تتمتع بسهولة الوصول إلى الخزان الهائل من البيانات الشخصية التي جمعتها الشركات منا وبيعها لبعضها البعض. هذه البيانات تغذي التحيز الحسابي. لذا فإن جزءًا من الحل هو استنزاف هذه الخزانات عن طريق الحد من كيفية قيام الشركات بجمع بياناتنا في المقام الأول.
تثار مخاوف خاصة عندما تستخدم المتاجر التقليدية تقنية التعرف على الوجوه لفحص جميع عملائها/ عميلاتها المحتملين/ات لاستبعاد العملاء/ العميلات المفترضين/ات غير المرغوب فيهم/ن. لطالما استخدمت العديد من المتاجر هذه التقنية لمحاولة الكشف عن السارق/ة المحتملين/ات من المتاجر، حيث اعتمدت غالبًا على بيانات العدالة الجنائية المعرضة للخطأ والمتحيزة عنصريًا. تم ضبط ماديسون سكوير جاردنز مؤخرًا باستخدام هذه التكنولوجيا لاستبعاد موظفي شركة محاماة رفعت دعوى قضائية ضد الشركة الأم للمكان. يمكن للأعمال التجارية بسهولة توسيع هذا النوع من "قائمة الأعداء" للأشخاص الذين/ اللواتي يحتجون على السياسات التمييزية للمكان عبر الإنترنت أو على الرصيف بالخارج.
بالإضافة إلى ذلك، لا تعمل ميزة التعرف على الوجوه في كثير من الأحيان - خاصة فيما يتعلق بالسود والنساء. تم استخدام التكنولوجيا لطرد المراهق الأسود لميا روبنسون عن طريق الخطأ من حلبة تزلج عامة في ديترويت بعد أن أخطأ في تعريفها كشخص يُزعم أنه خاض عراكا هناك. مرة أخرى، هناك حل لخصوصية البيانات لمشكلة الحقوق المدنية: منع الشركات من جمع بصمات الوجوه من أي شخص، دون الحصول مسبقًا على موافقتهم/ن الطوعية والمستنيرة. يجب أن يتضمن ذلك الموافقة على استخدام وجه شخص ما (أو معرف مشابه مثل الوشم) في بيانات التدريب للخوارزميات.
التمييز في خرق البيانات وإساءة استخدامها
كما أن جمع وتخزين كميات هائلة من المعلومات الشخصية يولد مخاطر تتمثل في أن موظفي/ات الشركات سوف يسيئون استخدام البيانات بطرق تنتهك الحقوق المدنية. على سبيل المثال، في عامي 2014 و 2015 ، تم طرد 52 موظفًا/ة في فيسبوك لاستغلالهم/ن وصولهم/ن إلى بيانات المستخدم/ة. استخدم أحد المهندسين مستودع فيسبوك لمحادثات ماسنجر الخاصة وبيانات الموقع والصور الشخصية للبحث عن سبب توقف امرأة واعدها مسبقا عن الرد على رسائله. استخدم مهندس آخر بيانات فيسبوك لتتبع امرأة إلى الفندق الذي تقيم فيه. أدى جمع البيانات الزائد من الشركة إلى تمكين هذه التحرشات.
يؤدي الإفراط في التجميع أيضًا إلى خطر خرق البيانات، والذي يمكن أن يؤثر بشكل متفاوت على الأشخاص ذوي/ ذوات الدخل المنخفض. تؤدي سرقة البيانات إلى مخاطر جانبية تتمثل في سرقة الهوية وهجمات برامج الفدية والبريد العشوائي غير المرغوب فيه. لتجنب هذه الهجمات، يجب على ضحايا الانتهاك قضاء الوقت والمال لتجميد وإلغاء تجميد تقارير الائتمان الخاصة بهم/ن، ومراقبة تقارير الائتمان الخاصة بهم/ن، والحصول على خدمات منع سرقة الهوية. يمكن أن تكون هذه التكاليف المالية في كثير من الأحيان أكثر عبئا على المجتمعات ذات الدخل المنخفض والمهمشة. علاوة على ذلك، قد يجعل عدم استقرار الإسكان من الصعب تنبيه الأشخاص المستضعفين/ات إلى حدوث خرق.
تتمثل إحدى الطرق المهمة لتقليل هذه الأنواع من مخاطر الحقوق المدنية في قيام الشركات بجمع بيانات شخصية أقل وتخزينها.
إفشاء الشركات للبيانات للحكومة، والتي تستخدمها بطرق تمييزية
يمكن تغذية الممارسات الحكومية التمييزية عن طريق شراء البيانات الشخصية من الشركات. تستخدم الحكومات أنظمة آلية لصنع القرار للمساعدة في اتخاذ العديد من الخيارات حول حياة الناس، بما في ذلك ما إذا كان يجب على الشرطة التدقيق في شخص أو حي ما، وما إذا كان يجب على مسؤولي/ات رعاية الأطفال التحقيق في منزل معين، وما إذا كان يجب على القاضي/ة الإفراج عن شخص أثناء انتظار المحاكمة. مثل هذه الأنظمة تعمل على "أتمتة عدم المساواة"، على حد تعبير فيرجينيا يوبانك. تشتري الحكومة بشكل متزايد البيانات من الشركات لاستخدامها في هذه القرارات.
وبالمثل، منذ أن ألغت المحكمة العليا في الولايات المتحدة قضية رو ضد ويد، أصبحت الصحة الإنجابية وسيلة هجومية متزايدة الأهمية للحقوق الرقمية. على سبيل المثال، يمكن للبيانات من خرائط جوجل إبلاغ الشرطة إذا كنت تبحث عن عنوان عيادة. يعد هذا التهديد الموسع للحقوق الرقمية خطيرًا بشكل خاص على السود، السكان الأصليون/ات، والملونون/ات، وذوي/ات الدخل المنخفض، والمهاجرين/ات، وأفراد مجتمع الميم عين+ ، وغيرهم من المجتمعات المهمشة تقليديًا، ومقدمي/ات الرعاية الصحية الذين/ اللواتي يخدمون هذه المجتمعات. يجب أن نحد من توفير البيانات الشخصية التي يمكن أن يكتسبها المسئولون/ات المناهضون/ات لحق الاختيار وصائدي/ات الفرص من الشركات. ويجب علينا أيضًا تقييد وصول الشرطة إلى هذه البيانات.
علاوة على ذلك، تحصل الشرطة على خدمات مراقبة الوجه من شركات مثل كليرفيو، التي تستخرج بصمات الوجوه من مليارات الأشخاص دون إذنهم/ن، ثم تستخدم قاعدة بيانات بصمة الوجه لمساعدة الشرطة في التعرف على المشتبه بهم/ن غير المعروفين/ات في الصور. على سبيل المثال، ساعدت كليرفيو الشرطة في ميامي في التعرف على متظاهر من أجل حياة السود.
يعد استخدام الشرطة لهذا النوع من خدمات بيانات الشركات أمرًا خطيرًا بطبيعته. تسببت الإيجابيات الكاذبة من التعرف على الوجوه في اعتقال أربعة رجال سود على الأقل. في يناير (كانون الثاني) 2020، استخدمت شرطة ديترويت برنامج التعرف على الوجوه للقبض على روبرت ويليامز بزعم سرقته لساعات. احتجزت الشرطة ويليامز لمدة 30 ساعة. بعد استجواب طويل، اعترفت الشرطة "لابد أن الكمبيوتر أخطأ في العمل". قبل عام واحد، قام نفس المحقق في ديترويت باعتقال رجل آخر، مايكل أوليفر، بعد أن أخطأ برنامج التعرف على الوجوه في تعريفه على أنه مطابق. اتُهم نجير باركس بسرقة وجبات خفيفة من متاجر في نيوجيرسي واعتقل ظلماً بعد خطأ في تحديد هويته. قضى باركس 10 أيام في السجن وما يقرب من عام بتهم معلقة عليه. في الآونة الأخيرة، قامت إدارة شرطة باتون روج باعتقال وسجن راندال ريد لمدة أسبوع تقريبًا بعد تطابق غير صحيح لسرقة.
الخطوات التالية
تستخدم الشركات والحكومات وغيرها البيانات الشخصية بأنواع عديدة من الطرق التمييزية. أحد الأساليب الضرورية لحل هذه المشكلة هو تقليل كمية البيانات التي يمكن لهذه الكيانات استخدامها للتمييز. لمقاومة انتهاكات الحقوق المدنية من مصدرها، يجب أن نحد من الطرق التي تجمع بها الشركات بياناتنا الشخصية وتحصدها.
دعت مؤسسة الجبهة الإلكترونية مرارًا وتكرارًا إلى تشريع هذه الخصوصية. ولكي تكون فعالة، يجب أن تتضمن تطبيقًا خاصًا فعالًا، وتحظر مخططات "الدفع مقابل الخصوصية" التي تؤذي الأشخاص ذوي الدخل المنخفض. يجب ألا تستبق التشريعات على المستوى الفيدرالي تشريعات الولاية.
