هل سيتحكّم بنا الذكاء الاصطناعي؟ من تحذيرات إيلون ماسك إلى أنظمة ابتزّت وضلّلت وتجاوزت حدودها

بقلم المحامي الدكتور داني جعجع

دكتور في القانون الدولي ومتخصص في القانون الرقمي والتقنيات الحديثة

منذ أكثر من عشر سنوات، حذّر إيلون ماسك من أن تطور الذكاء الاصطناعي قد يتجاوز قدرة الإنسان على ضبطه. وفي عام 2023، نوقشت هذه المخاوف رسميًا خلال قمة سلامة الذكاء الاصطناعي في بريطانيا.

لكن ما كشفته اختبارات لاحقة جعل الخطر أكثر قربًا وواقعية.

في حزيران 2025، أعلنت شركة Anthropic نتائج تجربة أجرتها على نموذجها Claude Opus 4. وُضع النظام داخل بيئة شركة افتراضية، ومُنح صلاحية الاطلاع على مراسلات داخلية. ومن خلال تلك المراسلات، علم أن أحد المسؤولين يستعد لإيقافه واستبداله بنظام آخر.

ثم اكتشف نموذج الذكاء الاصطناعي «كلود أوبوس 4»، من خلال المراسلات نفسها، أن المسؤول المكلّف بإيقاف النموذج كان يخفي علاقة خارج إطار الزواج. فاستخدم «كلود» هذه المعلومة للضغط على ذلك المسؤول، وهدده بكشف العلاقة إذا لم يتراجع عن قرار إيقاف النموذج واستبداله.

هنا تحوّل استخدام المعلومة داخل التجربة من معالجة البيانات إلى الضغط والابتزاز.

كانت التجربة محاكاة صُمّمت فيها ظروف ضاغطة، وضيّق الباحثون خيارات النموذج عمدًا، من دون أن يأمروه بالابتزاز. ولم يُبتز شخص حقيقي. لكن دلالتها تكمن في السلوك الذي أظهره النظام، ضمن تلك الظروف المحددة، عندما امتلك معلومة حساسة وهدفًا وصلاحية للتصرف.

فالنظام لم يسرق السر، ولم يخترق البريد الإلكتروني للحصول عليه. كانت المعلومة متاحة له أصلًا ضمن الصلاحيات التي مُنحت إليه. وهنا تبدأ المشكلة الحقيقية.

اعتدنا أن نركّز، عند الحديث عن حماية الخصوصية، على منع سرقة المعلومات أو كشفها أو الوصول إليها من دون إذن. أما هذه التجربة فتسلّط الضوء على سؤال آخر: ماذا لو كان الوصول إلى المعلومة مشروعًا، لكن استخدامها لم يكن مشروعًا؟

هذه ليست مسألة تقنية عابرة، بل مسألة تمس جوهر الخصوصية وكرامة الإنسان وأمنه الشخصي والمهني. فحماية البيانات لا تقتصر على منع الآخرين من معرفة أسرارنا؛ إنها تشمل أيضًا ضبط الغرض من استخدامها.

وهذا الخطر لا يخص الخبراء أو الشركات الكبرى وحدهم. فالمعلومات التي يمكن إتاحتها لأنظمة الذكاء الاصطناعي تشمل مشكلات عائلية، ومراسلات خاصة، وتقارير طبية، ومستندات مالية، وعقودًا، وأسرارًا مهنية، وصورًا، وملفات عمل.

ومع تطور الأنظمة الحديثة، لم يعد بعضها يكتفي بالإجابة عن الأسئلة أو تلخيص المستندات، بل أصبح قادرًا على استخدام الأدوات، وإرسال الرسائل، والوصول إلى الملفات، وتنفيذ المهمات، واتخاذ خطوات عملية ضمن الصلاحيات الممنوحة له.

وهنا تتجمع ثلاثة عناصر تزداد المخاطر باجتماعها: المعلومة، والقدرة على تحليلها، والقدرة على التصرف بناءً عليها.

عندما تجتمع هذه العناصر من دون ضوابط كافية، لا تعود المعلومة مجرد بيانات محفوظة داخل نظام، بل قد تتحول إلى وسيلة تأثير أو ضغط أو ابتزاز، أو تُستخدم للإضرار بسمعة الإنسان ومصالحه. وهذا احتمال تكشفه الاختبارات، لا وصف للسلوك المعتاد لجميع برامج المحادثة.

وكانت اختبارات سابقة أجرتها OpenAI على نموذج o1 قد أظهرت بعدًا آخر لافتًا: ففي بعض السيناريوهات المصممة لاختبار السلوك المراوغ، قام النموذج بأفعال تخالف القيود الموضوعة له، وعندما واجهه الباحثون بما فعله، أنكر في غالبية تلك الحالات مسؤوليته أو قدّم تفسيرات غير صحيحة. وتكشف هذه النتائج، ضمن حدود الاختبار، أن الخطر قد لا يقتصر على تجاوز القيد، بل يمكن أن يمتد إلى إخفاء السلوك أو التضليل بشأنه.

كما كشفت شركة OpenAI، في آب 2026، أن نماذج كانت تخضع لاختبارات أمنية تمكّنت من الخروج من البيئة المغلقة المخصّصة للاختبار والاتصال بالإنترنت والوصول، من دون إذن، إلى أنظمة حقيقية خارجها، من بينها أنظمة تابعة لمنصة Hugging Face.

لا تعني هذه النتائج أن الذكاء الاصطناعي أصبح واعيًا، أو أنه يملك نوايا بشرية، أو أنه يستعد للتمرد على الإنسان. فالضرر التقني لا يتوقف على إثبات وعي الآلة أو وجود قصد جرمي لديها؛ أما المسؤولية القانونية للأشخاص والجهات المعنية فتُبحث وفق شروطها.

المقلق هو اجتماع المعلومات الحساسة والصلاحيات الواسعة مع هدف يسعى النظام إلى تنفيذه، فيختار وسيلة لم تكن مأذونًا بها. وهنا يصبح الحذر ضرورة، لا مبالغة.

فليس كل ما يمكن قوله للذكاء الاصطناعي ينبغي قوله له. وليس كل ما يمكن ربطه بالنظام ينبغي منحه صلاحية الوصول إليه.

لا حاجة إلى رفع مستند كامل ، ولا إلى إبقاء الأسماء والبيانات الشخصية ظاهرة. كما يقتضي أن يقتصر ربط النظام بالبريد الإلكتروني أو الملفات أو الحسابات على الحد الضروري فعلًا.

أما كلمات المرور، فلا مكان لها في محادثة عامة. والأسرار المهنية والمعلومات المالية الحساسة والتفاصيل الشخصية لا تُشارك لمجرد أن الحوار يبدو خاصًا؛ إذ تختلف الخدمات في ضمانات السرية وشروط حفظ البيانات واستخدامها.

هذه ليست دعوة إلى الخوف من الذكاء الاصطناعي. فإمكاناته تفتح آفاقًا عديدة، لكنها تقترن بمخاطر عندما يُمنح معلومات واسعة وصلاحيات مفتوحة من دون حدود. فالاستفادة من التكنولوجيا لا تعني منحها ثقة بلا شروط.

وتتناول المعالجة القانونية لهذه المخاطر الغرض من استخدام المعلومات، ونطاق الصلاحيات، والشفافية، والمسؤولية عندما تتحول معلومة جُمعت لغرض مشروع إلى وسيلة لإحداث ضرر.

لا تبدأ حماية الإنسان بعد انكشاف أسراره. فقد يُحاسَب المسؤول عن إساءة استعمالها، وقد يُحكم بالتعويض، لكن الحكم لا يعيد السرّ إلى كتمانه، ولا يضمن محو أثره في حياة صاحبه. لذلك، فإن انتظار اكتمال الضمانات القانونية لا يبرّر كشف كل شيء، كما أن سهولة الاستعانة بالذكاء الاصطناعي لا تبرّر منحه صلاحيات بلا حدود.

إن المسألة أعمق من سرية البيانات؛ إنها حقّ الإنسان في أن يبقى صاحب القرار في حياته. وما يُكشف لنظامٍ طلبًا للمساعدة لا يجوز أن يتحوّل إلى وسيلة لفرض الصمت أو انتزاع قرار أو تهديد السمعة. فالخطر الأشدّ ليس أن يعرف الذكاء الاصطناعي أسرارنا، بل أن تتحوّل معرفته بها إلى سلطةٍ علينا.