مستقبل الديمقراطية في عصر الذكاء الاصطناعي (الجزء الثاني) - إبراهيم أزروال

- إضعاف التعددية السياسية: يؤدي التحيز الخوارزمي إلى إضعاف التعددية السياسية لصالح الاستقطاب الفكري والإيديولوجي والسياسي؛ فمن البديهي أن يؤدي توجيه النقاش العمومي، وحصر المستخدمين داخل فقاعات فكرية مغلقة، وتفضيل الآراء الحدية، وتهميش الآراء المعتدلة، إلى إضعاف التعددية السياسية.
- الإضرار بالمسارات الانتخابية: يضر نشر المعلومات المضللة والزائفة، وتشكيل قناعات الناخبين بطرق منحازة عبر منصات التواصل الاجتماعي ومحركات البحث، بالمسارات الانتخابية على نحو قطعي.

2- اللامساواة والتمييز

يتجلى هذان المظهران فيما يلي:
- دعم التحيزات والقبليات: تعيد نماذج التعلم الآلي إنتاج التحيزات والقبليات والانحيازات التاريخية الموجودة في بيانات التدريب les données d’entraînement، وتدعمها بمثابتها القاعدة المساعدة على فهم البيانات الجديدة والتنبؤ بالنتائج.
- الانحياز وغياب الإنصاف: إن القرارات الآلية لا تخدم، أحيانًا، مصلحة بعض المجموعات الاجتماعية أو الأقليات، ولا سيما أثناء الاستفادة من الخدمات العمومية أو من العمل.
تقود أتمتة القرارات العمومية أو السياسية، القائمة على خوارزميات غير محايدة، إلى تعميق أشكال التمييز الاجتماعي، حسب البعض.

3- التلاعب والديمقراطية

آليات التلاعب بالديمقراطية:
- التزييف العميق: تستخدم مقاطع الفيديو والصوت المفبركة للتضليل والتعتيم وتشويش الحقائق.
- التوجيه الخوارزمي: يتم تحديد بيانات مخصصة للتأثير في خيارات وقرارات وتوجهات الناخبين على نحو لا شعوري.
- الأخبار الزائفة: يتم إغراق الفضاءات الرقمية بمعلومات وإفادات ومواد إعلامية غير دقيقة، بل ومضللة، خاصة خلال الفترات الانتخابية، بهدف التشكيك في مصداقية الخطاب السياسي وإضعاف الثقة في المؤسسات السياسية والإدارية.

يسهم التلاعب في إضعاف الديمقراطية من خلال:
- حجب الشفافية وإخفاء كثير من المعلومات والأخبار والآراء عن المرسل إليهم؛
- تقويض استقلالية الأفراد وقدرتهم على التفكير النقدي؛
- إضعاف المساواة بين المواطنين، من خلال السماح للبعض باحتياز القدرة على التأثير في قرارات واختيارات وتوجهات الآخرين، والتفرد بسلطة كبيرة؛
- تهديد المساواة بين الجنسين في السياسة باستعمال تقنية التزييف العميق les hyper-trucages. فبما أن النساء يخشين، حسب البعض، استعمال تقنية التزييف العميق ضدهن وتقديم صور مضللة عنهن، فإنهن يفضلن، في الغالب، استبعاد الانخراط في معتركات السياسة.

4- التضليل والاستقطاب

- انتشار المعلومات المضللة: لا مراء في انتشار المعلومات المضللة على نطاق واسع أحيانًا؛ إذ يمكن إنتاج نصوص وصور ومقاطع فيديو مزيفة deepfakes للتلاعب بالناخبين والتأثير السلبي في توجهاتهم أثناء الحملات الانتخابية.
- التلاعب بالناخبين من خلال الاستهداف الدقيق: إن الاستهداف الدقيق le micro-ciblage استراتيجية رقمية قائمة على جمع وتحليل البيانات الضخمة Big Data، لتوجيه رسائل سياسية مخصصة وفردية بقصد التأثير في قرارات وخيارات الناخبين.
- تركيز القوة الذكية في أيدي نخب رأسمالية-عولمية: تم، في الواقع، تركيز القوة الذكية في أيدي نخب رأسمالية عولمية وأخرى ما بعد إنسانية، ذات استهدافات وضعانية مخصوصة.
استقطاب الآراء Polarisation des opinions: تفضي تقنيات الذكاء الاصطناعي وخوارزميات التوصية إلى استقطاب الآراء، وذلك بحصر المستخدمين في فقاعات معلوماتية bulles informationnelles، والزيادة في مستويات التفاعل والتجاوب مع العروض السياسية من خلال توظيف محتويات ذات شحنات عاطفية عالية، والتأثير في الاختيارات والتوجهات السياسية تاليًا.
- احتكار البنيات التحتية المعرفية: تحتكر الشركات المسيطرة على الرقمي البنية التحتية المعرفية والمعطيات والبيانات، مما يضعف سيادة الدول والمداولات العامة. ومن المحقق أن عددًا قليلًا من شركات التكنولوجيا الخاصة يسيطر على الخوارزميات وشبكات الحوسبة السحابية le cloud computing ou l’informatique en nuage، ويحتكر استعمالها وتوظيفها على حساب المصلحة العامة والتداول الديمقراطي التعددي.

5- غرف الصدى الرقمية chambres à écho

من المظاهر السلبية للذكاء الاصطناعي «غرف الصدى» على منصات التواصل الاجتماعي؛ وتتميز هذه البيئات الافتراضية بتركيزها على الآراء الموافقة لتوجهات واختيارات المستخدمين، وإقصاء وحجب الأفكار والآراء المخالفة لهم. وتسهم هذه البيئات، في الواقع، المتشكلة بفعل الخوارزميات والسلوك البشري، في استفحال الاستقطابات الاجتماعية والسياسية.
تتشكل غرف الصدى بفعل ما يلي:
- خوارزميات التوصية: تركز على عرض المحتويات المتطابقة مع اهتمامات وميولات وتوجهات المستخدم.
- التحيز التأكيدي: ينحاز الإنسان عادة إلى ما يدعم أفكاره وتوجهاته وميولاته وتصوراته الإيديولوجية والسياسية، ويتجنب، في الغالب، مجابهة ما يتعارض أو يتناقض مع أفكاره.
- التعرض الانتقائي: يُقصد بالتعرض الانتقائي الميل التلقائي إلى متابعة مصادر الأخبار والتصورات الداعمة لأفكار المستخدم، وتجنب ما يناقضها ويشكك في صوابها وسلامتها وصحتها.

آثار غرف الصدى:
- زيادة الاستقطاب: يتم تكريس الخلافات الفكرية والسياسية والإيديولوجية، وترسيخ الاستقطاب والآراء الحدية والمواقف الذاتانية.
- انتشار التضليل: يزيد الإقبال على المعلومات والأخبار المضللة بسهولة، في غياب الآراء المخالفة المشككة في سلامتها وصوابها وشرعيتها.
- الوهم الإدراكي: يتوهم الفرد أنه يتفرد برأي سديد وحقيقة مسلَّمة، لا يمكن استشكالها، بفعل غياب الآراء المخالفة لآرائه وقناعاته الفكرية أو السياسية عن شاشته.
ولتفادي هذه الآثار السلبية، لا مناص من تنويع المصادر، واستعمال التفكير النقدي القائم على التشكيك والمراجعة والمقارنة، واستحضار الأفكار المتناقضة، وتجنب الانسياق وراء الأفكار المسلَّمة أو المهيمنة رغم افتقارها إلى السند العقلي أو التاريخي أو المنطقي السليم، وإعادة ضبط الخوارزميات من خلال التفاعل مع محتويات متنوعة ومختلفة المرجعيات والمصادر والتوجهات.
تلغي غرف الصدى، بانحيازاتها التأكيدية، التفاعلات والتجاذبات والتداولات؛ ومن المعلوم أنه لا يمكن تعضيد الفكر والممارسة الديمقراطية دون استشكال الأفكار والتأكيدات واليقينيات التداولية، ومراجعة المسلمات والقناعات الذاتانية.

6- نهاية العالم المعلوماتية infocalypse

تساعد بنية منصات التواصل الاجتماعي على انتشار المعلومات الكاذبة المتولدة عن الذكاء الاصطناعي. ولما كانت شبكات التواصل الاجتماعي تميل إلى مكافأة المحتويات ذات الحظوة التداولية والتفاعلية الكبرى، فإن التوسع في النشر يتم، ويغيب التحقق من صحة المحتويات.
وبما أن التمييز بين المعلومة الصحيحة والمعلومة الخاطئة أو المضللة أضحى صعبًا، قلت الثقة في مصدر المعلومات، وتقوت القابلية للتلاعب بالمواطنين. وقد أطلق الخبراء «نهاية العالم المعلوماتية» infocalypse على وضع معلوماتي من سماته البارزة بث ونشر وتعميم أخبار كاذبة ومضللة «شديدة الواقعية» على الإنترنت.

7- التزييف العميق hyper-trucage (deepfake)

يقصد بالتزييف العميق deepfake ou l’hyper-trucage تقنية تعتمد على الذكاء الاصطناعي من أجل خلق أو تعديل أو تحوير محتوى رقمي يبدو في الظاهر حقيقيًا، إلا أنه مزيف عمقيًا وكليًا. إن التزييف العميق هو صورة مزيفة ومضللة، أو محتوى صوتي أو فيديو منجز على نحو شديد الواقعية عبر تقنيات الذكاء الاصطناعي؛ وليس من اليسير اكتشاف هذه الصور المزيفة، سواء من قبل البشر أو من قبل خوارزميات الكشف les algorithmes de détection.

8- الهيبنوقراطية l’hypnocratie

يصف مفهوم الهيبنوقراطية، أو التنويموقراطية l’hypnocratie، وضعًا سياسيًا لا تمارس فيه السلطات السياسية القمع المادي، بل توظف الآليات والتقنيات الرقمية والذكاء الاصطناعي من أجل التحكم في وعي الناس وتوجيهه بما يخدم مصالح فئوية مخالفة للمطالب والمصالح الاجتماعية-السياسية للجموع.
يسهم التدفق المستمر والكبير للمعلومات والأفكار والسرديات، المفعلة عبر الخوارزميات، في تخدير الوعي وإضعاف اليقظة النقدية المطلوبة في الإنسان المتمدن. لا يلتجئ الحكم الخفي إلى القوة ولا إلى الإقناع العقلاني، بل إلى التلاعب بوضعيات وحالات الوعي الجماعي.
يصير الاستبدال أو التعويض أساس التعامل الرقمي مع الحادثات والواقعات والمواقع والمواقف، ويتم تحويل الأفكار أو الأخبار من واقعات قابلة للرصد إلى احتمالات متعددة، بل ومتناقضة الدلالات والمقاصد.
فحين يستغرق الوعي النقدي في غفلة دائمة نتيجة التدفق الغزير للمعلومات والأخبار الموجهة، نكون، في الواقع، أمام جذب رقمي transe numérique، ويصير الواقع قصصًا مفككة تنسجها وتحركها الخوارزميات والشخصيات المحورية. يفقد الواقع، في ظل التنويم المغناطيسي الرقمي، تماسكه، ويصير جماع روايات وسرديات مفككة وضبابية.
يتم، في ظل هذا التنويم، تحويل الواقع إلى معلومات؛ علمًا أن البنية التحتية المعلوماتية المنشأة تفتقر إلى الصلابة وإلى القيمة، طالما أنها تستند إلى مفاهيم ملتبسة وإلى فهم غير ثابت للعالم وللواقع.

9- الشخصنة الخوارزمية la personnalisation algorithmique

يفضي التخصيص الخوارزمي إلى إفقاد الفضاء السياسي قوته وتماسكه، إذ يضعف الترابطات والتفاعلات الجماعية والمناقشات العمومية، ويوفر لكل شخص معلومات مختلفة، ويزوده بمعلومات سياسية ترضي ميولاته وتوجهاته.
وبينما تتطلب المداولات الفكرية-السياسية التداول حول حقائق وواقعات مشتركة، فإن الاستغراق في القناعات المتولدة عن الفقاعات المعلوماتية يكشف عن تفكك المشتركات وغياب الأفق المشترك للتداول.
لا تملك الديمقراطية معايير القوة والتماسك إذا غاب النقاش العمومي، وغاب التداول المرئي والمباشر حول الحقائق والواقعات المشتركة، والتداول المستند إلى الحجج والأدلة العقلانية، لا إلى الإيحاءات العاطفية أو الإرضاءات السيكولوجية.
لا تكمن ماهية الديمقراطية في فعاليتها أو جدواها، بل في حضورها، أي في تجسدها الميداني العياني.
إن خضوع المواطنين لسلطة الخوارزميات، وخفاء التكنولوجيا l’invisibilité technologique، مؤشران دالان على عطل كياني يمس ماهية الديمقراطية في المقام الأول.
فالواقع أن الأدوات الرقمية وخوارزميات الذكاء الاصطناعي تؤثر بعمق في الحياة اليومية للمواطنين. ومن الطبيعي أن تحدث هذه الظاهرة تغيرًا جوهريًا في مسار الديمقراطية، يتجلى في تغير بنية النقاش العمومي، وطرائق معالجة ومقاربة المعلومات والمعطيات الرقمية، ومفاهيم الثقافة السياسية، على نحو غير مدرك في الغالب.

10- الذكاء الاصطناعي والهلوسات

يقصد بهلوسة الذكاء الاصطناعي حالات تقدم فيها أنظمة الذكاء الاصطناعي إجابات غير صحيحة على نحو جازم، وبوثوقية لا أساس لها في الواقع: هلاوس استنتاجية، وروابط وهمية، وهلاوس بصرية...
تولد الهلوسات les hallucinations الحقائق الزائفة والمضللة، والتلاعبات السياسية، والشكوك، وانعدام الثقة في المؤسسات.

مخاطر الهلوسات على الديمقراطية:

المعلومات المضللة: يولد الذكاء الاصطناعي حقائق أو معطيات أو تذكيرات تاريخية أو إحالات واقتباسات وشواهد تلقى رواجًا كبيرًا؛ ومن المعلوم أن نماذج الذكاء الاصطناعي التوليدي قادرة على إنتاج مخرجات ومعلومات زائفة ومضللة تبدو، في الظاهر، موثوقة لا يطالها الشك.
التأثير الانتخابي: لا يكتفي الناخبون بالتفاعل مع معطيات ومعلومات وأخبار ملفقة وزائفة عن المرشحين، بل يصدقونها دون التحقق من صحتها؛ وتتمكن هذه النماذج الرقمية من ابتكار وعود انتخابية أو آراء سياسية أو إيديولوجية، وتنسبها إلى سياسيين حقيقيين، وقد تعطي توجيهات سياسية منحازة وغير محايدة للمواطنين أو للمستخدمين الباحثين عن مساعدة روبوتات الدردشة أثناء بحثهم عن مرشحهم المفضل.
فقدان الموجهات المرجعية: من الصعب التمييز بين الحقيقة والخطأ، وبين الحقيقة والإشاعة، في الحقل الثقافي والسياسي، في سياق تداولي رقمي منسوج على نحو مصطنع.

VII- البدائل المقترحة

يقتضي تصليب وتقوية الديمقراطية في عصر الذكاء الاصطناعي إضمامة من الإجراءات والتدابير والقرارات الحاسمة؛ ومن البيّن أنها لازمة ومستعجلة، ولا يمكن، بدون استيفاء شرائطها، استنقاذ الديمقراطية التمثيلية من الاهتزازات ومن العصف الرقمي.

ولتحقيق ذلك، لا مفر، حسب كثير من الأخصائيين، من اتخاذ حزمة من الإجراءات ذات الأولوية، وهي:
- تنظيم الخوارزميات من خلال اعتماد قوانين صارمة وتشريعات حكومية قمينة بالتحكم في الأنظمة الذكية ومنصات التواصل الاجتماعي، من أجل ضمان حماية عالية للأفراد والمجتمعات على السواء؛
- ضمان محتويات سياسية شفافة وذات مصداقية عالية؛
- تعزيز التعليم الرقمي للمواطنين وإعدادهم، من خلال الرفع من الوعي الرقمي، لمواجهة كل أشكال التلاعب والتضليل.
ويمكن اختزال المقترحات والبدائل وتدقيقها من خلال التأكيد على ما يلي:

1- تعزيز المشاركة والشفافية

تيسير التواصل: تمكّن خوارزميات الذكاء الاصطناعي من تحليل آراء وتوجهات وانتقادات واقتراحات المواطنين، ومعالجتها معالجة دقيقة.
مكافحة الفساد: تمكّن الأنظمة الذكية من مراقبة الموارد واستعمالها وتوظيفها بكفاءة عالية.
توسيع الشمولية: يمكّن الذكاء الاصطناعي من تقديم ملخصات وفذلكات عن النقاشات العامة، والتعرف على توجهات ومطالب وآراء واقتراحات الفئات الاجتماعية والثقافية والسياسية المختلفة.

2- مواجهة التحديات والمخاطر

محاربة التضليل: من الضروري مجابهة عمليات التزييف العميق والأخبار الكاذبة المضرة، عمقيًا، بنزاهة العمليات الانتخابية وبمصداقية المسارات الديمقراطية إجمالًا.
الحد من التحيزات الخوارزمية: من اللازم تكريس عدالة الأنظمة الذكية، وتفادي التحيزات الخوارزمية والنتائج غير العادلة أو التمييزية الناتجة عنها.
تنظيم الحكامة: تتطلب حماية الحقوق الفردية أطرًا قانونية واضحة قادرة على الحد من تفرد وتحكم الشركات الكبرى في القرار الرقمي.

3- تنظيم وضمان شفافية التكنولوجيا

إيجاد ذكاء اصطناعي أخلاقي ومسؤول:
لضمان استخدام البيانات استخدامًا عقلانيًا وأخلاقيًا، وحماية الحقوق الفردية، لا بد من اعتماد لوائح صارمة على المستوى الكوني. إن التعاون الدولي مطلب لازم لضمان الاستخدام الأخلاقي والمسؤول والعقلاني لتقنيات الذكاء الاصطناعي، وحماية الديمقراطية الليبرالية أو التمثيلية من المنزلقات المحتملة.
ويستند الذكاء الاصطناعي الأخلاقي والمسؤول إلى المبادئ التالية: العدالة، وعدم التحيز، والشفافية، والمساءلة، والخصوصية، والأمان، وعدم إلحاق الأذى بالآخرين.

تصنيف المحتويات الرقمية:
يستلزم الأمر فرض تصنيف واضح لجميع المحتويات: المحتوى النصي، والمحتوى المرئي الثابت، والمحتوى المرئي المتحرك، والمحتوى المسموع، والمواد السياسية، والصور والفيديوهات المولدة عن طريق الذكاء الاصطناعي (التزييف العميق deepfakes)، من أجل تفادي خداع وتضليل الناخبين.

افتحاص خوارزميات التوصية:
يتطلب الأمر تنظيم المنصات الرقمية لضمان إمكانية افتحاص خوارزميات التوصية l’auditabilité des algorithmes de recommandation، التي تؤجج الاستقطاب الإيديولوجي والفكري والسياسي في النقاشات العمومية.
حماية العمليات الانتخابية: يتطلب الأمر حماية المسارات الانتخابية من خلال وضع بروتوكولات لإدارة الأزمات في مواجهة التهديدات السيبرانية les cybermenaces العابرة للحدود والتدخلات الجماعية.

4- أخلاقيات والتزامات الفاعلين السياسيين

- فرض مدونات سلوك صارمة: يقتضي ذلك تبني مدونات سلوك تمنع استخدام الحسابات الوهمية أو الروبوتات أو برامج الدردشة الآلية التلاعبية les chatbots manipulateurs من قبل الأحزاب السياسية أثناء الحملات الانتخابية؛ والواقع أن فرض مدونات سلوك صارمة les codes de déontologie من الشرائط اللازمة لتفادي التضليل الإعلامي والمعلوماتي، وترشيد عمل المنظمات الجيوسياسية والمنصات الرقمية والمؤسسات الصحافية.
- تدريب المؤسسات والبنيات السياسية على استعمال الأدوات الرقمية:
يتم ذلك عن طريق تدريب موظفي ومتطوعي الحركات السياسية على الاستعمال العقلاني والمسؤول والآمن للأدوات والآليات الرقمية.
- تعزيز إمكانية تتبع la traçabilité مصادر المعلومات الرسمية:
يتطلب الأمر تعزيز إمكانية تتبع مصادر المعلومات الرسمية أثناء استخدام برامج الدردشة الآلية للرد والتفاعل مع استفسارات المواطنين.

5- استعادة الحيوية والتربية على المواطنة

- تطوير التفكير النقدي:
يتم ذلك عن طريق تطوير التفكير النقدي منذ الصغر، من خلال برامج التربية على الإعلام والرقمي.
- دعم الجهات المكلفة بالتحقق من الحقائق fact-checkers:
يتم ذلك بواسطة دعم الجهات المكلفة بالتحقق من الحقائق fact-checkers ووسائل الإعلام المستقلة، من أجل ضمان فضاء معلوماتي موثوق.
- تشجيع المشاركة المواطنة:
يتم ذلك عن طريق مشاركة المواطنين بواسطة استخدام الذكاء الاصطناعي والأدوات الرقمية، لتسهيل الوصول إلى النقاشات العمومية على نحو دامج وتعددي.

6- آليات الحماية من التطفل الرقمي l’intrusion numérique

- وضع تشريعات صارمة وتفعيلها: من الضروري وضع قوانين لحماية البيانات، مثل القانون الأوروبي العام لحماية البيانات (GDPR)، وتفعيلها.
- تشفير البيانات: يقتضي تحويل البيانات اليسيرة القراءة عادة إلى رموز غير مقروءة باستعمال خوارزميات رياضية، مما يحول دون قراءتها وفك شفرتها. ولا بد من مفتاح التشفير الصحيح لتيسير قراءة البيانات المشفرة دون عناء.

7- استراتيجيات التنظيم والحماية

الإطار القانوني: يطالب الكثيرون بتطبيق قوانين صارمة فيما يخص شفافية المحتويات السياسية وتتبع تدفق المعلومات الناتجة عن الذكاء الاصطناعي، تلافيًا لكل التلاعبات والتوجيهات السلبية للرأي العام.
التعليم النقدي: لتفادي التلاعبات التكنولوجية المحتملة، لا بد من التسلح بتفكير نقدي ووعي إعلامي قوي.
تدقيق الخوارزميات التجارية: لا بد من تدقيق الخوارزميات التجارية وفحصها auditabilité des algorithmes commerciaux من قبل مؤسسات ديمقراطية مستقلة. ويقتضي تدقيق الخوارزميات audit des algorithmes القيام بعمليات تقييمية ضامنة لعمل الأنظمة البرمجية والذكاء الاصطناعي بعدالة وشفافية ودون تحيزات.

8- الديمقراطية والشفافية الخوارزمية

للحفاظ على ثقة الجمهور وتعزيز فعالية السلوك الديمقراطي، لا بد من:
- تعزيز الشفافية الخوارزمية la transparence algorithmique؛
وتعني الشفافية الخوارزمية القدرة على فهم آليات وسبل وطرائق اتخاذ القرارات أو تصنيف المحتويات في أي نظام حاسوبي أو ذكاء اصطناعي. وتهدف إلى ضمان تفعيل المسؤولية، والمحافظة على ثقة المستخدمين، وتفادي التحيز والتمييز.
- تعزيز إمكانية تتبع la traçabilité الأنساق وآليات التنظيم أو الضبط المستقلة؛
- تعزيز موثوقية المعلومات ومصداقية الفاعلين الاجتماعيين والسياسيين؛
- توفير إمكانات استعادة الحيوية الديمقراطية la résilience démocratique.
إن الذكاء الاصطناعي وعد ووعيد، في الواقع؛ أي إنه يطرح مجموعة من التحديات أمام الديمقراطية، مثلما يمكن أن يساعد على تحقيق طفرة ديمقراطية أو استعادة الحيوية الديمقراطية، عبر أدوات التحليل والمشاركة المواطنة.
- تحسين البناء الديمقراطي وضمان ديمقراطية دامجة démocratie inclusive، عبر تحسين آليات اتخاذ القرار العمومي والتشاور مع المواطنين، وتفادي التحيزات المعرفية، وتحسين الفعالية الإدارية.

حكامة الذكاء الاصطناعي المتمحورة حول الإنسان:
ترتكز هذه الرؤية على ذكاء اصطناعي شفاف ومتمحور حول الإنسان. وهي تلائم وتتوافق مع القيم الحديثة المتمثلة في المسؤولية والإدماج والسيادة الرقمية la souveraineté numérique.
وتؤكد هذه الرؤية إمكان التلاؤم بين الابتكار وبين تعضيد المبادئ والقيم الديمقراطية.

9- التربية والذكاء الاصطناعي

يضعف الذكاء الاصطناعي، أحيانًا، الوعي السياسي، إذ يبث المعلومات المزيفة أو المضللة. وللتغلب على هذا الإضعاف المؤكد، من الضروري تعديل برامج المدارس من أجل تعزيز وتسديد الوعي النقدي، وترقية الحس النقدي للمواطنين، ولا سيما الشبيبة الباحثة عن سبل سالكة للوعي والفعل الاجتماعي-السياسي.
من اللازم إكساب الشباب الوعي النقدي، والقدرة على التحقق من موثوقية المصادر المعتمدة، وفهم حدود الخوارزميات، وامتلاك الوعي الرقمي والأخلاقي والسياسي.

تعميم الوعي النقدي:

لا بد من وضع استراتيجيات فعالة وناجعة للحماية، لتفادي ما تولده الهلوسات من إشاعات وحقائق تداولية رقمية ذات تأثير عميق في المتخيل الجماعي.
لا بد، في الواقع، من استحضار الوعي النقدي في المجال التداولي الرقمي، واستشكال المحتويات مهما كانت متقنة رقميًا وتقنيًا، والتحوط قبل التقرير، وتحصين الذات عبر تعزيز الوعي النقدي واليقظة الفكرية والتحوط الإيديولوجي-السياسي، من أجل تحرير الوعي من المتخيل الرقمي والحقائق التداولية الرقمية.
التفكير النقدي: يتوجب تعليم الشباب التحقق من المصادر، والتحقق من مصداقية المعلومات والأخبار، والتحري عن سلامة الحقائق التداولية الرقمية ذات الصلة بالمجال السياسي تخصيصًا.

10- المسارات الضبطية les trajectoires de gouvernance (الأطر القانونية والنقابية)

شفافية الشفرة transparence du code:
من اللازم اشتراط علامات أو أمارات تمييزية واضحة على المحتوى السياسي المنشأ آليًا؛ ومن الجلي أن شفافية الشفرة الخوارزمية للذكاء الاصطناعي معيار جوهري لحماية الديمقراطية، بالنظر إلى دعمها الرقابة الشعبية من جهة، ومنعها الشركات الكبرى من الانفراد بتوجيه الرأي العام من جهة أخرى.

الإطار الأخلاقي:

يقتضي الوضع القائم، راهنًا، وضع قوانين وطنية ودولية من أجل حماية المؤسسات الديمقراطية.
ويتطلب الأمر تحقيق ثلاثة مطالب:
1- إعادة صياغة الحقوق: تطوير الحق في المعرفة بحيث يطال معرفة آليات اتخاذ القرار الآلي والرقمي.
2- الحكامة الشاملة: تتطلب عملية تطبيق معايير «أخلاقيات الذكاء الاصطناعي 2021» تعاونًا وثيقًا بين مجموعة من الفاعلين، ولا سيما الحكومات وصناع السياسات، والقطاع الخاص، والشركات التقنية، والمؤسسات الأكاديمية والبحثية، والمجتمع المدني، من أجل مراعاة مصالح الإنسان وتجنب الاعتلالات الممكنة أثناء استخدام تقنيات الذكاء الاصطناعي.
3- التوجيه البشري: يتطلب الأمر فرض أطر تنظيمية تحظر إسناد القرارات المصيرية والاستراتيجية للآلات بالكامل، وتعيد الاعتبار للفعالية البشرية، بدل التعويل على علو قدراتها الإنجازية والأدائية والتوقعية.

الضبط الصارم: يتعلق الأمر بسن قوانين صارمة، ومحاصرة نشر المعطيات الزائفة المضللة لإرادة المواطنين. ويعني الضبط الصارم alignement rigide عملية توجيه أنظمة الذكاء الاصطناعي توجيهًا ملائمًا يمكنها من التوافق مع القيم الإنسانية والقوانين المعمول بها.
الشفافية وتحسين موثوقية النماذج: من الضروري إلزام الشركات بتحسين موثوقية نماذجها الخاصة لضمان الشفافية والعدالة والأمان. ويقتضي التدقيق الخوارزمي المستقل l’audit algorithmique indépendant إلزام الشركات بتقييم أنظمتها من قبل مؤسسات وبنيات خارجية قبل بثها.

11- التحقق والتدقيق

التحقق من الحقائق le fact-checking:
يعد التحقق من الحقائق الخطوة الأولى في مسار استعادة الحقائق، وتفادي التضليل وتزييف المعلومات والوعي، على نحو كبير، بعد تعميم الذكاء الاصطناعي التوليدي.
ويتم هذا التحقق عبر التحقق من المحتويات المنشورة على وسائل التواصل الاجتماعي، بخاصة، والتثبت من صحة ما هو متداول رقميًا.
يتوجب على مدققي الحقائق les fact-checkeurs القيام بما يلي:
- اختيار وتفضيل المواضيع الأكثر حساسية وانتشارًا وذيوعًا؛
- تدقيق الحقائق والتثبت من صحة وصلاحية البيانات والمعطيات؛
- نشر الحقائق المتوصل إليها على أوسع نطاق.
ومن البديهي أن التحقق من الحقائق يتطلب فهمًا جيدًا لوسائل التواصل الاجتماعي، والصدور عن منهجية واضحة ومحددة وشفافة.

12- تصميم خوارزميات شفافة وعادلة

يعني تصميم خوارزميات شفافة وعادلة بناء أنظمة ذكاء اصطناعي وبرمجيات تتخذ قرارات واضحة وقابلة للتمثل والفهم، عبر استعمال بيانات واضحة، ومراجعة النتائج على نحو دائم، تلافيًا للامساواة والافتئات على فئات وجماعات، وضمان المعلومات الموثوقة للجميع.

VIII- مارك كوكيلبيرغ Marc Coeckelbergh

أستاذ فلسفة الإعلام والتكنولوجيا:
يسهم الذكاء الاصطناعي، حسب أستاذ فلسفة الإعلام والتكنولوجيا مارك كوكيلبيرغ Marc Coeckelbergh، في إضعاف أسس الديمقراطية. فقد تعرض مبدأ المساواة لهزة كبيرة، نتيجة التفاوت الكبير الموجود بين المواطنين وبين عمالقة التكنولوجيا. كما أن مبدأ الحرية مطوق بفعل الاستعمال المكثف لوسائل المراقبة.
علاوة على ما سبق، فإننا نعجز، في نظره، عن التمييز بين الصائب والخاطئ، ونعاني، أكثر فأكثر، من التباس مفهوم الحقيقة.
ليس الذكاء الاصطناعي، في تصوره، مسألة تقنية فقط، بل هو مسألة سياسية كذلك. ومن الضروري، إذن، التفكير عمقيًا في سياسات الذكاء الاصطناعي، وتجاوز المقاربة التقنية المحضة. لا يمكن الاستكانة إلى سلبية تتغاضى عن استثمار ممكنات الفلسفة السياسية والفلسفة الأخلاقية، وتتأمل عمل الخوارزميات وهي تضعف سلطة الإنسان وريادته الثقافية والحضارية، بل لا بد، في اعتباره، من أنسنة عمل الآلة، وتخليق المسارات الرقمية، وتكريس ريادة الإنسان.
يسهم الذكاء الاصطناعي، في تصوره، في التوجيه التكنولوجي للمجتمع، مما يتناقض مع المثل الديمقراطية.
لا يكتفي الذكاء الاصطناعي بمراقبة المواطنين فقط، في نظره، بل يقوم بتنبؤات حول سلوكنا السياسي والثقافي. ويرى أن امتلاك سلطة شاملة، عن طريق التحكم في البيانات واستغلالها وإدارة الخوارزميات، يمكن أن يسهم في تكريس شمولية جديدة، مختلفة شكلًا عن الشموليات الكلاسيكية، إلا أنها تشبهها من حيث المضمون.
إن الذكاء الاصطناعي لا يقدم إفادات تقنية فقط، بل يغير قواعد اللعبة. ولما كانت تلك القواعد متوافقًا عليها، ومؤسسة فكريًا وتاريخيًا، فإن تغييرها برغبة من شركات ومؤسسات متخصصة في الرقميات يغير النسق الديمقراطي، ويطرح إشكاليات فكرية وسياسية وأخلاقية وحضارية لا يمكن ترك معالجتها لأفراد وشركات ذات اهتمامات فلسفية أو علمية أو اقتصادية أو جيوسياسية نخبوية وفئوية.
ولما كان الذكاء الاصطناعي قادرًا، في نظره، على التأثير لا في التوجهات والأفكار والقناعات فقط، بل في المشاعر والعواطف، فمن الممكن توظيفه واستعماله في تكريس أو ترسيخ الشمولية أو الكلانية السياسية.
«يقوض الذكاء الاصطناعي، كما يوظف ويطور الآن، الديمقراطية بطرق متعددة. إذ يمكن أن يستخدم في التلاعب بالناخبين وبالانتخابات بطرق غير مسبوقة. ويعد استهداف الناخبين بشكل شخصي وبناءً على بياناتهم الشخصية سابقة غير معهودة». -4-
علاوة على ما سبق، فإنه يرى أن الذكاء الاصطناعي حمّال أوجه؛ فقد يكون أداة لتقويض الديمقراطية، وتكريس الشمولية وسلطة عمالقة التكنولوجيا، وقد يكون حلًا لكثير من المشكلات. ويتم ذلك عبر شروط مثل:
- تبني منظومة أخلاقية كونية؛
- بناء سياسة عالمية تؤنسن الإنسان وتركز على العلاقات التفاعلية والغيرية، لا على النرجسية والتوحد بالذات كما في الثقافة الرأسمالية؛
- المراهنة على التكنولوجيا في تعزيز علاقات الإنسان التفاعلية مع المجتمع والآخرين.

ويشير مرارًا إلى إمكان التلاعب بالحرية، وتكريس التمييز والتحيز، وإضعاف الديمقراطية عن طريق الذكاء الاصطناعي.
ويؤمن بقدرة الفلسفة السياسية على إضاءة كثير من إشكاليات فلسفة التكنولوجيا والمشكلات المحتدمة بعد التوجه العالمي إلى توظيف الذكاء الاصطناعي والمراهنة عليه في إحداث التحولات التكنولوجية والرقمية، في الاقتصاد والجيوسياسة، وإيجاد بدائل للإنسان العادي من خلال التعويل على الإنسان المستزاد l’homme augmenté، أو المهجن، أو الروبوتات الشبيهة بالبشر.
وعلاوة على المراقبة الأفقية (مراقبة شبكات التواصل الاجتماعي) والمراقبة العمودية (مراقبة الدول والشركات الحاضنة لشبكات التواصل الاجتماعي)، فإن التكنولوجيا والذكاء الاصطناعي يرسخان، في نظره، اغتراب الإنسان.
إن مستعملي شبكات التواصل الاجتماعي ينتجون بيانات ومعطيات رقمية دون التوصل بأي تعويض أو أجر، مما يؤكد، في تصوره، استمرار استغلال العمال الرقميين. وخلافًا لمن يعتقد أن الثورة الرقمية ستنهي إشكالية الاستغلال، فإنه يؤكد راهنية المفاهيم الماركسية المعالجة للاستغلال الرأسمالي للعمال واغترابهم.
يُستعمل الذكاء الاصطناعي من طرف الرأسمالية من أجل استغلال الطبقة العاملة. وبما أن الإقبال على الروبوتات يزداد، مما يفضي إلى زيادة البطالة، فإن الضغط على الأقلية العاملة يزداد، مما يكشف عن احتداد الاستغلال والتنافس على الوظائف القليلة الموجودة. ومن المتوقع أن ننتقل، من الطبقة العاملة، بعد تعميم الأتمتة والرقمنة والاستعانة بالروبوتات، إلى الأقلية العاملة.
من المحقق أن خوارزميات الذكاء الاصطناعي غير محايدة سياسيًا، في نظره. وهذا ما يفرض تجديد منهجية معالجة الفعالية الذكية، وحضور العقل الذكي، في مضامير السياسة والفعل الاجتماعي-السياسي.
يكرس الاستحواذ على البيانات، في تصوره، سلطة الرأسمالية الرقمية le capitalisme numérique، ويسهم في تأثيل ثرواتها الرقمية والرمزية والمادية والسياسية.
ومن البيّن أنه يستند إلى فكر ومفاهيم كارل ماركس وميشيل فوكو للتفكير في الراهن الرقمي، وكيف تتمكن الرأسمالية الرقمية من بسط سيطرتها بالاستعانة بالذكاء الاصطناعي وعلوم البيانات.

IX- التركيب

لم يعد الذكاء الاصطناعي مجرد تقنية عالية تمكّن العقل البشري من إنجازها للاستفادة منها في قطاعات ومجالات التعليم والبرمجة والإعلام والطب والفنون، وسوى ذلك من مجالات، بل أضحى أساسًا تُبنى عليه الاستراتيجيات والقرارات السياسية والاقتصادية والجيوسياسية.
مما لا شك فيه أنه يؤثر بشكل مزدوج في الديمقراطية؛ فهو ييسر المشاركة السياسية، ويسهل الوصول إلى المعلومات والآراء والمعطيات السياسية وتحليل البيانات ومعالجتها بسرعة، من جهة؛ وهو يخلق وضعيات غير مستحبة، ولا سيما الاستقطاب والتضليل والتزييف العميق، من جهة أخرى.
من الثابت أن استعمال الذكاء الاصطناعي، باعتباره وسيطًا رقميًا، يمكن أن يسهم في توثيق العلاقات بين المواطنين وبين المؤسسات، إن استُعمل على نحو شفاف ومسؤول وأخلاقي؛ كما يمكن أن يوسع البون بين المواطنين وبين المؤسسات، إن وُظف توظيفًا عمليًا وبراغماتيًا لا يراعي مصالح وانشغالات وانتظارات الجموع.
من الضروري، في الواقع، إخضاع الخوارزميات للمراجعة الدورية لتفادي الانحيازات الخوارزمية وما ينجم عنها من تمييز ولامساواة.
يمكن للذكاء الاصطناعي أن يكون أداة لتطوير الديمقراطية، أو وسيلة لترسيخ هيمنة تقنية تنفرد بصياغة القرارات. إن إرادة المواطنين هي التي تحدد، بلا شك، الاتجاه والمقصد التاريخي-الحضاري للمجموعة السياسية-الثقافية؛ ومن المعلوم أن تحصيل الكفاءة التقنية في هذا المضمار لا يكفي، بل لا بد من تحصيل الوعي الرباعي، أي: الوعي السياسي، والوعي التاريخي، والوعي المعرفي، والوعي الرقمي.
فلا يمكن تطوير الديمقراطية وتمكين الفاعل السياسي الديمقراطي من آليات المشاركة الوازنة في تجديد فعالية الديمقراطية، دون تجديد الفكر السياسي الليبرالي، وصياغة إبدال فكري-سياسي ينقل الكفاءات الاستدلالية والبرهانية والتاريخية إلى ساحات الوعي الرقمي الآني، حتى ينعتق الوعي العمومي من إسار الإيحاءات والترضيات الوجدانية والعاطفية والسيكولوجية والحقائق التداولية الرقمية.
من الضروري، إذن، إعادة بناء النظرية الديمقراطية، وتعزيز حضور الفاعل السياسي-المدني، وتجديد، بل تثوير، الفلسفة السياسية، بحيث تحرر الحقائق التداولية الرقمية من هيمنة الذاتيات واللحظيات واليقينيات التداولية الغائمة.
ولتجنب الاستقطاب الحاد، لا مناص من إدارة الصراع الرقمي إدارة فكرية، تنفتح بمقدار ثر على الاستدلال والبرهنة، كما يمكن أن تلجأ إلى الإيحاءات الوجدانية والبواعث العاطفية بمقدار محدود.
لا يتعلق الأمر فقط بتهدئة النقاش العمومي، بل بعقلنته وترشيده وإدراجه في تاريخ الفكر الحداثي، وتاريخ الديمقراطية، وتاريخ الحضارة.
من المحقق أن كل تفكير في مستقبل الديمقراطية هو، كذلك، تفكير في فلسفات وتواريخ متعددة: تاريخ الفكر السياسي، وتاريخ الحضارة، وفلسفة التاريخ عامة، وتاريخ الديمقراطية، وتاريخ الفلسفة السياسية الحديثة خاصة.
إن الاستشراف لا ينفي جدارة تأمل ما جرى في مسارات التاريخ المتعرجة.

«فقد اهتمت النظرية الديمقراطية تقليديًا بنوع معين من القيم اعتبرته ضروريًا لوجود واستقرار النظام الديمقراطي. واستندت في ذلك إلى أن أحد أهم مجالات أداء هذا النظام هو مجال إدارة الصراع. فهو نظام مؤسسي يتيح التنافس، ولذلك يعتبر هذا التنافس معرضًا لأن يتحول إلى عداء، ولحدوث تطرف وعنف واستقطاب. وأحد العوامل الأساسية لتجنب ذلك هو الثقافة السياسية. فلكي تكون هناك ديمقراطية، يجب أن تنطوي هذه الثقافة على تشجيع المشاركة والحوار والتسامح مع المعتقدات المخالفة، والاستعداد للمساومة والحل الوسط. فالاستقطاب والعنف يتقلصان عندما يكون الخطاب السياسي قائمًا على الاحترام المتبادل، وحين تتوافر الثقة بين الجماعات السياسية والاجتماعية». -5-

الهوامش:

4- https://news.un.org /fr/story/2026/03/1158578

5- وحيد عبد المجيد، «الديمقراطية ومراجعة المنظور التقليدي»، أبواب، العدد 2، خريف 1994، ص 26.

إبراهيم أزروال

أكادير – المغرب