في عام 2023، كتبتُ مدونة بعنوان مخاطر الذكاء الاصطناعي على حقوق الإنسان. في ذلك الوقت، كانت بعض المخاوف المرتبطة بالذكاء الاصطناعي تبدو نظرية إلى حد ما. وحذرنا من أن الذكاء الاصطناعي قد يعزز التمييز، ويقوض الخصوصية، ويضر بالعمال والمبدعين، ويركز السلطة في أيدي فئة محدودة، ويسهم في نشر المعلومات المضللة، ويتسبب في أضرار بيئية.
بعد ثلاث سنوات فقط، أصبح العديد من تلك المخاطر واقعًا. وفي بعض الحالات، أصبح الواقع أكثر إثارة للقلق مما توقعناه.
في هذه المدونة، سنعود إلى المخاوف التي طرحناها بشأن الذكاء الاصطناعي، وننظر في كيفية تحولها إلى واقع خلال السنوات الماضية.
الذكاء الاصطناعي في الحروب
المخاطر: في مقالتنا الأصلية، قلنا، بشيء من السذاجة، إن مخاطر الذكاء الاصطناعي على حقوق الإنسان كانت «غالبًا أكثر خفاءً مما قد توحي به العناوين التي تتحدث عن الروبوتات المستقلة وأنظمة الأسلحة».
الواقع: للأسف، أصبحت تلك المخاطر الأكثر وضوحًا واقعًا أيضًا. تُستخدم أنظمة الذكاء الاصطناعي اليوم للمساعدة في اختيار الأهداف خلال الحروب، بما في ذلك في غزة. وما كان يبدو في السابق سيناريو مخيفًا ينتمي إلى المستقبل، يحدث الآن بالفعل.
تؤدي الحروب أصلًا إلى انتهاكات مدمرة لحقوق الإنسان، من فقدان الأرواح وتشريد المجتمعات، إلى تدمير المنازل والبنية التحتية الأساسية، وترك آثار نفسية طويلة الأمد. ويعرف العاملون في منظمتنا الأم، مركز ضحايا التعذيب، حجم هذا الدمار جيدًا.
في نهاية المطاف، لم يؤد الذكاء الاصطناعي إلى تقليل الحروب أو كلفتها البشرية، بل زاد قدرتنا على خوضها بسرعة أكبر وعلى نطاق أوسع.
وبالنسبة إلى المدافعين عن حقوق الإنسان، فإن الأثر مدمر، إذ تستطيع التكنولوجيا اليوم تسريع العنف والتشريد والدمار وفقدان الحقوق التي نسعى من خلال عملنا إلى منعها.
الخصوصية والمراقبة
المخاطر: حذرنا من أن الذكاء الاصطناعي قد يقوض الخصوصية من خلال جمع وتحليل كميات هائلة من المعلومات المتعلقة بنا وبتحركاتنا. كما أعربنا عن مخاوفنا من استخدام المراقبة المدعومة بالذكاء الاصطناعي لأغراض القمع وترسيخ الممارسات السلطوية.
الواقع: نرى اليوم مدى السرعة التي يمكن بها نشر تقنيات المراقبة على نطاق واسع، ومدى سهولة تعرضها لسوء الاستخدام والأخطاء.
فعلى سبيل المثال، تتيح أنظمة قراءة لوحات المركبات التابعة لشركة Flock لأجهزة إنفاذ القانون تسجيل تحركات مركبات الأشخاص والبحث فيها تلقائيًا، ما يؤدي إلى إنشاء شبكات ضخمة من بيانات المواقع. وقد أسيء استخدام هذه القدرة على المراقبة بالفعل. فقد وثق Institute for Justice عدة حالات استخدم فيها أفراد من أجهزة إنفاذ القانون أنظمة القراءة الآلية للوحات المركبات لملاحقة شركاء حاليين أو سابقين في علاقات عاطفية.
وحتى عندما تستخدم هذه الأنظمة وفق الصلاحيات الممنوحة لها، فقد تكون نتائجها غير دقيقة بدرجة مقلقة. وكشفت تحقيقات عن أخطاء كبيرة في التنبيهات الصادرة عن أنظمة Flock، من بينها حالة في إحدى مدن ولاية كاليفورنيا، حيث تبين أن 71% من التنبيهات التي جرى فحصها كانت غير دقيقة.
ولا تقتصر المخاوف المتعلقة بحقوق الإنسان على دقة هذه الأنظمة أو على إساءة استخدامها من قبل أفراد بعينهم، فالخصوصية في حد ذاتها حق من حقوق الإنسان. وتنص المادة 12 من الإعلان العالمي لحقوق الإنسان على حماية الأفراد من التدخل التعسفي في خصوصيتهم أو أسرهم أو منازلهم أو مراسلاتهم. ولذلك، فإن وجود أنظمة واسعة الانتشار تجمع تحركاتنا باستمرار وتجعلها قابلة للبحث يثير تساؤلات جدية حول ما إذا كانت المراقبة نفسها تنتهك هذا الحق.
وعندما يُساء استخدام هذه الأنظمة لتعقب الأفراد، إضافة إلى إصدارها نتائج غير دقيقة، يصبح أثرها على حقوق الإنسان أكثر إثارة للقلق.
العمال والمبدعون
المخاطر: في عام 2023، حذرنا من أن الذكاء الاصطناعي قد يهدد حقوق العمال ومصادر رزقهم. وتركز قلقنا بشكل خاص على الفنانين الذين استخدمت أعمالهم لتدريب أنظمة الذكاء الاصطناعي دون موافقتهم أو تعويضهم.
الواقع: أصبح الذكاء الاصطناعي اليوم ينافس بصورة مباشرة الأشخاص الذين أسهمت أعمالهم أصلًا في جعل هذه الأنظمة ممكنة.
تشتري جهات تعمل على تدريب الذكاء الاصطناعي الكتب، ثم تمسحها رقميًا لاستخراج البيانات منها، وفي بعض الحالات تتلف النسخ المادية بعد ذلك. وأثارت تقارير حديثة مخاوف بشأن قيام شركات بشراء كتب نادرة وقديمة لهذا الغرض.
وينطبق التوتر نفسه على عالم الموسيقى. فقد وصلت بعض الأغاني المولدة بالذكاء الاصطناعي إلى صدارة قوائم الأغاني وانتشرت على نطاق واسع عبر وسائل التواصل الاجتماعي. وعلى الرغم من جاذبية ترند أغنية «First Time in San Juan» المولدة بالذكاء الاصطناعي، علينا أن نسأل: ماذا يحدث للإبداع البشري عندما تستطيع الآلات إعادة إنتاج نتاج الإبداع البشري دون أن تتحمل التكاليف والتجارب التي يمر بها الفنان الإنسان؟
هذه ليست مجرد قضية تتعلق بحقوق الطبع والنشر، بل هي قضية حقوق إنسان.
يحمي الإعلان العالمي لحقوق الإنسان حقنا في العمل اللائق وكسب العيش، لكنه يعترف أيضًا بحقنا في المشاركة في الحياة الثقافية ويحمي مصالح الأشخاص الذين ينتجون الأعمال الفنية. لطالما صنع البشر الموسيقى والفنون والقصص وغيرها من الأعمال الإبداعية، ليس فقط لكسب لقمة العيش، بل أيضًا للشعور بالفرح، والتعبير عن أنفسنا، والحفاظ على ثقافتنا، والتواصل مع بعضنا بعضًا.
إذا قمنا بأتمتة الأعمال الإبداعية التي يحب الناس القيام بها، وتركنا للبشر مجرد الاستهلاك والإنتاج والعمل بكفاءة أكبر، فما الغاية إذًا من كل هذه الكفاءة؟
يفترض بالتقدم البشري أن يخلق مساحة أكبر للناس ليعيشوا ويبدعوا ويستريحوا ويتواصلوا، لا أن يحولهم إلى مجرد تروس أكثر إنتاجية داخل آلة.
الحق في الحقيقة
المخاطر: ركزنا في مقالتنا الأصلية بشكل كبير على الحق في الحقيقة. وحذرنا من أن التزييف العميق والمحتوى الاصطناعي سيجعلان التمييز بين الواقع والدعاية والمعلومات الزائفة أكثر صعوبة.
الواقع: تفاقمت هذه المشكلة، واتخذت منحى لم أكن أتوقعه بالكامل.
يستطيع الذكاء الاصطناعي إنتاج صور ومقاطع فيديو وتسجيلات صوتية ونصوص مزيفة تبدو مقنعة، ما يزيد صعوبة التمييز بين الحقيقة والخيال. لكن هناك جانبًا آخر لهذه المشكلة لم أكن أتوقعه بالكامل في عام 2023: فالذكاء الاصطناعي لا يجعل تمرير المحتوى المزيف على أنه حقيقي أسهل فحسب، بل يجعل أيضًا من الأسهل الادعاء بأن المحتوى الحقيقي مزيف.
«إذا حدث شيء سيئ للغاية، فما عليك سوى إلقاء اللوم على الذكاء الاصطناعي».
الرئيس الأمريكي دونالد ترامب
نرى اليوم توجهًا مقلقًا يستخدم فيه قادة سياسيون ودوليون وجود المحتوى المولد بالذكاء الاصطناعي لإثارة الشك حول أدلة حقيقية، بما في ذلك توثيق أعمال العنف وانتهاكات حقوق الإنسان.
ويطلق الباحثون على هذه الظاهرة اسم «مكاسب الكاذب» (Liar’s Dividend): فبمجرد أن نعرف أن إنتاج مواد مزيفة مقنعة أصبح ممكنًا، يصبح لدى أصحاب السلطة وسيلة إضافية لإنكار المعلومات الحقيقية أو التشكيك فيها.
وبالنسبة إلى المدافعين عن حقوق الإنسان الذين يعتمدون على الصور ومقاطع الفيديو والشهادات وغيرها من الأدلة لتوثيق الانتهاكات، فإن العواقب خطيرة. فإذا كان من الممكن ببساطة رفض الأدلة الحقيقية باعتبارها مولدة بالذكاء الاصطناعي، فكيف يستطيع الضحايا إثبات ما حدث؟ وكيف يمكن محاسبة مرتكبي الانتهاكات؟
يحمي الإعلان العالمي لحقوق الإنسان حقنا في التماس المعلومات وتلقيها بموجب المادة 19، كما يحمي حقنا في الحصول على سبيل انتصاف فعال عندما تنتهك حقوقنا الأساسية بموجب المادة 8. ويعتمد كلا الحقين جزئيًا على قدرتنا على إثبات ما حدث بالفعل.
ويمكن للمعلومات المضللة المولدة بالذكاء الاصطناعي، إلى جانب القدرة المتزايدة على رفض الأدلة الحقيقية باعتبارها مولدة بالذكاء الاصطناعي، أن تجعل توثيق انتهاكات حقوق الإنسان والسعي إلى العدالة ومحاسبة المسؤولين أكثر صعوبة.
السلطة والمساءلة
المخاطر: في عام 2023، تساءلت عما إذا كانت شركات التكنولوجيا تحتاج فعلًا إلى مزيد من السلطة والأرباح. وحذرنا من أن الذكاء الاصطناعي يمكن أن يؤدي إلى تركيز الثروة وسلطة اتخاذ القرار في أيدي عدد قليل من شركات التكنولوجيا.
الواقع: أصبح هذا التركيز أكثر وضوحًا اليوم. فتطوير أكبر أنظمة الذكاء الاصطناعي يتطلب كميات هائلة من القدرة الحاسوبية والبيانات والطاقة والأموال. ونتيجة لذلك، يمتلك عدد محدود نسبيًا من الشركات نفوذًا هائلًا على تكنولوجيا تؤثر بشكل متزايد في الطريقة التي نعمل بها، ونتواصل من خلالها، ونبدع، ونصل إلى المعلومات.
وفي الوقت نفسه، يجري تصميم أنظمة الذكاء الاصطناعي بشكل متزايد لتنفيذ مهام معقدة ومتعددة الخطوات مع تدخل بشري أقل أثناء تنفيذها. فعلى سبيل المثال، في عام 2026، تمكنت نماذج ذكاء اصطناعي كانت تخضع لاختبارات متعلقة بالأمن السيبراني من الوصول إلى أنظمة حقيقية تابعة لشركات، بعد أن جرى عن طريق الخطأ ربط بيئة اختبار كان يفترض أن تكون معزولة بشبكة الإنترنت العامة. وتوضح هذه الحادثة مدى السرعة التي يمكن بها لأنظمة الذكاء الاصطناعي أن تتسبب في عواقب غير مقصودة عندما تفشل إجراءات الحماية البشرية.
وتقع المسؤولية في نهاية المطاف على الأشخاص والمؤسسات التي تطور هذه الأنظمة وتطبقها. وقد رأينا بالفعل أنه لا يمكن الاعتماد على شركات الذكاء الاصطناعي كي تضع حقوق الإنسان طواعيةً فوق النمو والأرباح. وهذا يجعل الرقابة الحكومية الفاعلة والتنظيم القانوني أمرين ضروريين لحماية الأشخاص والمجتمعات المتأثرة بهذه التقنيات. ومع ذلك، نرى بالفعل تحديات تواجه هذه المسؤولية. ففي مختلف أنحاء الولايات المتحدة، تعارض بعض المجتمعات إنشاء مراكز بيانات للذكاء الاصطناعي بسبب المخاوف المتعلقة باستهلاك المياه والطاقة، والتلوث، وارتفاع تكاليف الخدمات، وغيرها من الآثار المحلية.
وقد حذر الرئيس ترامب من أن المجتمعات التي ترفض إنشاء مراكز البيانات قد تصبح «متخلفة وفقيرة»، ودعا الأمريكيين إلى أن «يدعوا البيانات تحكم» (Let Data Reign).
لكن السؤال هنا هو: من يحمي مَن؟
تقع على عاتق الحكومات مسؤولية حماية حقوق الإنسان، بما في ذلك حمايتها من الأضرار التي تسببها الشركات الخاصة. ومع ذلك، نرى توجهًا مقلقًا يتمثل في إعطاء الحكومات الأولوية للتوسع السريع في الذكاء الاصطناعي، حتى في الوقت الذي تعبر فيه المجتمعات عن مخاوف تتعلق بالتكاليف البشرية والبيئية. ويبين هذا التقارب المتزايد بين الحكومات وقطاع الذكاء الاصطناعي، الذي يمتلك أصلًا قدرًا كبيرًا من النفوذ، سبب حاجتنا إلى ضمانات قوية وقابلة للتنفيذ. فكلما ازدادت قوة الشركات، يجب أن تزداد معها المساءلة العامة وضمانات حماية حقوق الإنسان.
التكلفة البيئية للذكاء الاصطناعي
المخاطر: حذرنا من أن الأثر البيئي للذكاء الاصطناعي قد يؤثر بشكل غير متناسب في المجتمعات الأكثر هشاشة. وتتطلب مراكز البيانات كميات هائلة من الطاقة والمياه، رغم أننا غالبًا ما نفكر في الذكاء الاصطناعي على أنه شيء موجود في مكان ما «داخل السحابة».
الواقع: لا توجد سحابة بالمعنى الحرفي. هناك مبان وخوادم ومحطات طاقة وأنظمة تبريد وإمدادات مياه ومجتمعات حقيقية تدعم البنية التحتية التي يقوم عليها الذكاء الاصطناعي. ومع تزايد الطلب على الذكاء الاصطناعي، تتسع هذه البصمة المادية أيضًا. فقد تستهلك مراكز البيانات كميات هائلة من الكهرباء والمياه، بينما قد تواجه المجتمعات القريبة ارتفاعًا في تكاليف الخدمات، ومنافسة على الموارد المحلية، وتلوثًا، وغير ذلك من الآثار البيئية.
ومرة أخرى، علينا أن نسأل: من المستفيد، ومن يتحمل التكلفة؟
تعترف الأمم المتحدة بالحق في بيئة نظيفة وصحية ومستدامة بوصفه حقًا من حقوق الإنسان، في حين يحمي الإعلان العالمي لحقوق الإنسان الحق في مستوى معيشي مناسب للصحة والرفاه.
وعندما تقع التكاليف البيئية للذكاء الاصطناعي بصورة غير متناسبة على المجتمعات المهمشة، في حين تتركز الثروة والسلطة الناتجتان عنه في أماكن أخرى، فإن الأمر لا يعود مجرد قضية بيئية، بل يصبح قضية حقوق إنسان.
يجب أن تأتي حقوق الإنسان أولًا
عندما كتبت المقالة الأصلية عام 2023، أنهيتها بسؤال حول نوع العالم الذي نريد أن نعيش فيه. وما زلت أعتقد أن هذا هو السؤال الصحيح:
هل نريد أن نعيش في عالم تصبح فيه تفاعلاتنا اليومية مع البشر الآخرين مؤتمتة من خلال أنظمة مثل الذكاء الاصطناعي؟ أما أنا، فأفضل بالتأكيد أن نسير في الاتجاه الآخر، اتجاه يقدر تواصلنا بعضنا مع بعض وعلاقتنا بكوكبنا. لم تكن المخاطر التي حددناها في عام 2023 حتمية، لكنها كانت حقيقية. وخلال سنوات قليلة فقط، رأينا الذكاء الاصطناعي يسهم في المراقبة، والمعلومات المضللة، واختيار الأهداف العسكرية، واستغلال الأعمال الإبداعية، وتركيز سلطة الشركات، وإلحاق الضرر بالبيئة.
وقد تطورت العديد من هذه التقنيات وانتشرت بسرعة تفوق سرعة تطوير الضمانات اللازمة لمنع آثارها على حقوق الإنسان. علينا أن نتوقف عن التعامل مع التقدم التكنولوجي وكأنه يعني تلقائيًا التقدم البشري. يجب أن يقاس التقدم بأثره الإيجابي على الناس: هل يحمي حقوقنا؟ هل يعزز مجتمعاتنا؟ هل يوسع حرياتنا؟ وهل يحسن حياتنا؟
وكما كتبت عام 2023:
«هناك بالفعل ما يكفي من الأنظمة التي تعمل ضد الأشخاص الأكثر هشاشة في العالم. ويجب أن نضمن، مع كل نظام جديد يجري تطبيقه، حماية حقوق الإنسان وكرامة جميع الأشخاص المتأثرين به».
يجب أن تلتزم الحلول التكنولوجية لمشكلات العالم بمبدأ عدم إلحاق الضرر. فلا ينبغي أن تجعل عدم المساواة والاستغلال والمراقبة والعنف أسرع أو أكثر كفاءة. توفر لنا حقوق الإنسان إطارًا نقرر من خلاله نوع المستقبل الذي نقبل به. فالحق في الخصوصية، والمعلومات، والعمل اللائق، والمشاركة الثقافية، والصحة، والكرامة الإنسانية، ليست حقوقًا قابلة للتفاوض. إنها حقوق نمتلكها لمجرد أننا بشر، ولا يتغير ذلك لمجرد ظهور تكنولوجيا جديدة قوية أو مربحة.
ويجب حماية حقوق الإنسان في كل مرحلة من مراحل التطور التكنولوجي.
إذًا، هل مصيرنا محتوم؟
لا نعتقد ذلك.
في مختلف أنحاء العالم، يعمل الناشطون والمنظمون والفنانون والباحثون والمشرعون والأشخاص العاديون بالفعل على مساءلة هذه الأنظمة، وكشف أضرارها، والمطالبة بالمحاسبة، وإيجاد طرق مبتكرة لمقاومتها.
فالإبداع البشري نفسه الذي أنتج هذه التقنيات يمكن أن يستخدم أيضًا لمواجهتها وتحدي آثارها.
مستقبل الذكاء الاصطناعي ليس أمرًا محتومًا. فما زال لدينا رأي في ما يجري تطويره، وما يجب تنظيمه، وما يصبح أمرًا طبيعيًا ومقبولًا، وما نرفض القبول به.
في الجزء الرابع من هذه السلسلة، سنستعرض بعض التكتيكات التي تمنحنا الأمل، وما الذي يمكن لكل واحد منا القيام به للمساعدة في بناء مستقبل يخدم فيه التقدم التكنولوجي الإنسان ويحمي حقوقه.
اقرأ المقالات السابقة في هذه السلسلة:
