مخاطر الذكاء الاصطناعي وأخلاقياته — ما تحتاج معرفته للبقاء آمناً

المخاطر الخمس الكبرى للذكاء الاصطناعي

في الفصول السابقة، استكشفنا قدرات الذكاء الاصطناعي وحالات استخدامه. لكن لـ "إتقان" الذكاء الاصطناعي حقاً، فهم المخاطر أمر ضروري.

فهم المخاطر لا يعني الخوف من الذكاء الاصطناعي. تماماً كتعلم كيفية عمل الفرامل عند قيادة السيارة، إنها معرفة أساسية للاستخدام الآمن والفعال.

الهلوسة — عندما يختلق الذكاء الاصطناعي معلومات بثقة

الهلوسة هي الظاهرة التي يولّد فيها الذكاء الاصطناعي معلومات لا أساس لها في الواقع، ويقدمها كأنها صحيحة تماماً. يمكن القول إنها أكبر خطر منفرد في استخدام الذكاء الاصطناعي.

لماذا يحدث هذا — فهم الآلية

يعمل الذكاء الاصطناعي من خلال "توقع الكلمة التالية الأكثر احتمالاً". بمعنى آخر، لا يُخرج "ما هو صحيح" بل "ما يبدو معقولاً". الذكاء الاصطناعي لا يحكم على الصواب والخطأ. إنه لا يبحث في موسوعة، بل يقوم بمطابقة الأنماط.

تتفاوت معدلات الهلوسة بشكل كبير بين النماذج. وجد معيار 2025 أن أفضل نموذج (Gemini 2.0 Flash) لديه معدل 0.7%، بينما بعض النماذج تهلوس بنسبة تقارب 30% من الوقت^[2]. هناك تقدم، لكنه لن يصل أبداً إلى الصفر.

حوادث واقعية

• قضايا محكمة وهمية — قدّم محامٍ أمريكي اقتباسات قضائية ولّدها ChatGPT إلى المحكمة، ليتبين أن القضايا المذكورة خيالية بالكامل (2023)
• أوراق بحثية مختلقة — ولّد الذكاء الاصطناعي عناوين وأسماء مؤلفين تبدو معقولة لدراسات غير موجودة
• إحصائيات خاطئة — ذكر الذكاء الاصطناعي بثقة أحجام سوق مختلفة تماماً عن الأرقام الفعلية
• المجال القانوني — وجدت دراسة Stanford معدلات هلوسة من 69-88% في الاستعلامات القانونية^[2]

4 استراتيجيات دفاعية

أكثر أنواع المعلومات عرضة للخطر هي: الإحصائيات والأرقام، والأسماء وأسماء العلم، والمسائل القانونية والضريبية، والأخبار العاجلة. تحقق دائماً من هذه المعلومات من المصادر الأولية.

حقوق النشر — هل يمكنك استخدامه؟ من يملكه؟

تنقسم قضايا الذكاء الاصطناعي وحقوق النشر إلى سؤالين رئيسيين: "هل يجوز قانونياً استخدام أعمال محمية لتدريب الذكاء الاصطناعي؟" و"هل المحتوى المولّد بالذكاء الاصطناعي يتمتع بحماية حقوق النشر؟"

القضية 1: بيانات التدريب وحقوق النشر

تُدرَّب نماذج الذكاء الاصطناعي على كميات هائلة من محتوى الإنترنت (نصوص وصور وأكواد). تُرفع دعاوى قضائية حول العالم بشأن استخدام أعمال محمية بدون إذن.

الدعوى	الملخص	الحالة (2026)
NYT ضد OpenAI	نيويورك تايمز رفعت دعوى بشأن استخدام مقالات غير مصرح به للتدريب	جارية
Getty ضد Stability AI	دعوى بشأن استخدام صور غير مصرح به للتدريب	جارية
دعاوى جماعية للفنانين	فنانون يدعون استخدام أعمالهم غير المصرح به لتدريب ذكاء اصطناعي لتوليد الصور	متعددة جارية
مؤسسات إخبارية ضد Perplexity	مؤسسات إخبارية كبرى قدمت مطالبات تعويض تتجاوز 66 مليون دولار	مُقدمة 2025

القضية 2: حقوق نشر المحتوى المولّد بالذكاء الاصطناعي

ما إذا كان المحتوى المولّد بالذكاء الاصطناعي يتأهل لحماية حقوق النشر يختلف حسب البلد.

• الولايات المتحدة — موقف مكتب حقوق النشر هو أن "الأعمال التي يُنشئها الذكاء الاصطناعي وحده لا تتأهل لحقوق النشر". الأعمال ذات المشاركة الإبداعية البشرية الكبيرة قد تحصل على حماية جزئية
• الاتحاد الأوروبي — قواعد تحكم حقوق نشر المحتوى المولّد بالذكاء الاصطناعي قيد التطوير
• ولايات قضائية أخرى — القوانين لا تزال تلحق بالتكنولوجيا

ما يجب عليك فعله

• للاستخدام التجاري، راجع دائماً شروط استخدام كل خدمة
• لا تحدد أسماء فنانين معينين في توليد الصور ("بأسلوب [فنان]" يمثل خطر حقوق نشر)
• تحقق مما إذا كانت مخرجات الذكاء الاصطناعي تشبه أعمالاً محمية موجودة
• اكشف عن مشاركة الذكاء الاصطناعي عند الاقتضاء

الخصوصية — ما الآمن مشاركته مع الذكاء الاصطناعي؟

في 2023، أدخل موظفون في Samsung كوداً مصدرياً سرياً في ChatGPT، مما تصدّر الأخبار. هذه الحادثة دفعت العديد من الشركات لوضع سياسات إدخال البيانات في الذكاء الاصطناعي.

البيانات المُدخلة في الذكاء الاصطناعي قد تُستخدم لتحسين الخدمة أو تدريب النموذج. افترض أن أي شيء تُدخله لا يمكن استرجاعه.

استراتيجيات حماية البيانات

الاستراتيجية	التفاصيل
إيقاف سجل المحادثات	كل من ChatGPT وClaude يسمحان بتعطيل استخدام بيانات التدريب في الإعدادات
خطط المؤسسات	خطط الأعمال تضمن عدم استخدام بياناتك في التدريب
إخفاء هوية البيانات	استبدل الأسماء الحقيقية بـ "الشخص أ" وأسماء الشركات بـ "الشركة X" قبل الإدخال
التشغيل المحلي	استخدم نماذج مفتوحة المصدر عبر Ollama على جهازك الخاص

التحيز والتزييف العميق

تحيز الذكاء الاصطناعي — تحيزات بيانات التدريب تنعكس في المخرجات

تحيز الذكاء الاصطناعي يحدث عندما تنعكس التحيزات المجتمعية الموجودة في بيانات التدريب في مخرجات الذكاء الاصطناعي. الذكاء الاصطناعي لا يُنتج "إجابات صحيحة" — بل يميل لإنتاج إجابات كانت "الأكثر شيوعاً في بيانات التدريب".

• تحيز جنسي — ولّد صور "ممرضة" وستحصل على نساء غالباً؛ صور "مهندس" رجال غالباً
• تحيز ثقافي — تميل الإجابات نحو منظور الناطقين بالإنجليزية والغربيين
• تحيز التأكيد — الآراء السائدة مُمثلة بإفراط بينما وجهات نظر الأقليات ناقصة التمثيل

الإجراء المضاد: لا تأخذ مخرجات الذكاء الاصطناعي على ظاهرها. اعتد على طلب "فكّر في هذا من منظور آخر" أو "أعطني الرأي المعاكس". للقرارات المهمة مثل التوظيف وتقييم الأداء، لا تعتمد أبداً على حكم الذكاء الاصطناعي كأساس وحيد.

التزييف العميق — معلومات مضللة لا يمكن تمييزها

مع تزايد واقعية الصور والفيديو والصوت المولّد بالذكاء الاصطناعي، تتصاعد مخاطر التزييف العميق (وسائط مزيفة يُنشئها الذكاء الاصطناعي). نما التزييف العميق على وسائل التواصل الاجتماعي من حوالي 500,000 في 2023 إلى 8 ملايين في 2025^[3].

• احتيال استنساخ الصوت — احتيالات هاتفية تستخدم الذكاء الاصطناعي لتقليد صوت فرد من العائلة أو المدير، يُنشأ من ثوانٍ قليلة من الصوت
• فيديوهات مزيفة — فيديوهات ملفقة لشخصيات عامة تُستخدم للتلاعب بالرأي أو انتحال الشخصية
• أخبار مزيفة — توزيع واسع لمقالات مولّدة بالذكاء الاصطناعي تبدو واقعية بشكل مقنع

كيف تحمي نفسك:

• إذا تلقيت مكالمة عاجلة تقول "أرسل المال الآن"، تحقق من هوية الشخص عبر قناة منفصلة
• تحقق من مصدر الصور أو الفيديوهات الصادمة التي تراها على وسائل التواصل الاجتماعي
• حافظ على شكّ صحي تجاه أي محتوى قد يكون مولّداً بالذكاء الاصطناعي

التنظيم العالمي — القواعد قيد الكتابة

تعمل الحكومات حول العالم بسرعة على تطوير أُطر قانونية لمعالجة مخاطر الذكاء الاصطناعي.

المنطقة	التنظيم	الميزات الرئيسية
الاتحاد الأوروبي	قانون الذكاء الاصطناعي (صدر 2024)	تنظيم قائم على المخاطر. معايير صارمة للذكاء الاصطناعي عالي المخاطر (التوظيف، الرعاية الصحية، العدالة). تطبيق تدريجي بدءاً من 2025
اليابان	قانون تعزيز الذكاء الاصطناعي (مايو 2025)	نهج "الابتكار أولاً". يُعطي الأولوية للتقدم مع وضع معايير السلامة
الولايات المتحدة	أمر تنفيذي بشأن سلامة الذكاء الاصطناعي	لا يوجد قانون فيدرالي شامل بعد. التنظيم يتقدم ولاية بولاية

في ديسمبر 2025، اعتمدت اليابان أول "خطة أساسية للذكاء الاصطناعي"، بالتزام بحوالي 7 مليارات دولار (تريليون ين) في استثمارات متعلقة بالذكاء الاصطناعي على خمس سنوات^[1]. نهج اليابان في تعزيز الابتكار مع وضع معايير السلامة — بدلاً من التنظيم المتشدد — جذب اهتماماً دولياً.

قائمة مراجعة سلامة الذكاء الاصطناعي

الآن بعد فهمك للمخاطر، إليك بنود عمل ملموسة. جمعنا قوائم مراجعة للأفراد والمؤسسات.

للأفراد

1. لا تأخذ المخرجات على ظاهرها — تحقق دائماً من المعلومات المهمة من المصادر الأولية
2. لا تُدخل معلومات حساسة — استخدم اختبار "هل سأكون مرتاحاً لو نُشرت؟"
3. تحقق من الأرقام والأسماء — هذه أكثر المناطق عرضة للهلوسة
4. انتبه للتحيز — كن واعياً للانحرافات المحتملة في مخرجات الذكاء الاصطناعي
5. تحقق من حقوق النشر — راجع شروط الاستخدام لأي تطبيق تجاري
6. اكشف عن استخدام الذكاء الاصطناعي بشكل مناسب — كن شفافاً بشأن مشاركة الذكاء الاصطناعي في التقارير والمقالات
7. أنت تتحمل المسؤولية النهائية — عواقب استخدام مخرجات الذكاء الاصطناعي تقع على المستخدم

للمؤسسات

1. أنشئ وأعلن سياسة استخدام الذكاء الاصطناعي — وثّق ما البيانات التي يمكن إدخالها ولأي مهام
2. أجرِ تدريباً للموظفين — ثقّف الموظفين حول الاستخدام السليم والمخاطر المرتبطة
3. أنشئ سير عمل لمراجعة مخرجات الذكاء الاصطناعي — ابنِ عمليات للمراجعة البشرية قبل النشر
4. فكّر في خطط المؤسسات — خطط مستوى الأعمال تقدم ضمانات أقوى للتعامل مع البيانات
5. أعدّ إجراءات الاستجابة للحوادث — حدد بروتوكولات الاستجابة قبل حدوث المشاكل

المراجع

1. "Japan adopts first AI basic plan." The Japan Times, 23 ديسمبر 2025.
2. Vectara. "Hallucination Leaderboard." GitHub, 2025. / Stanford RegLab. "Legal Hallucination Study." 2025.
3. Deepstrike. "Deepfake Statistics 2025." deepstrike.io, 2025.

روابط ذات صلة:

• EU AI Act Explorer — النص الكامل وتحليل تنظيم الذكاء الاصطناعي الأوروبي

في الفصل التالي، سنستكشف أحدث تطورات الذكاء الاصطناعي — الذكاء الاصطناعي متعدد الوسائط، ووكلاء الذكاء الاصطناعي، واتجاهات 2025-2026.