حين تفكر الخوارزمية عنا: من يصنع مستقبل البشرية، نحن أم نماذجنا الذكية؟

نكتب هذه السطور ونحن نستخدم الذكاء الاصطناعي كل يوم. نبني به أدوات، ونراجع به نصوصًا، ونختبر به أفكارًا. لذلك لا نكتب من موقع الخائف ولا من موقع المبهور. نكتب من موقع من يرى الأداة عن قرب، ويسأل سؤالًا بسيطًا: حين تصبح الأداة أذكى كل عام، من يبقى صاحب القرار؟

هذا السؤال ليس فلسفيًا فقط. إنه سؤال عملي يواجهه المعلم الذي يصحح واجبًا كتبه نموذج لغوي، والطبيب الذي يقرأ توصية آلية، والمبرمج الذي يقبل اقتراحًا لم يقرأه كاملًا. وهو سؤال يواجهنا نحن أيضًا في المختبر.

خريطة تتغير كل بضعة أشهر

لنبدأ بما نعرفه، لا بما نتخيله.

في عام واحد فقط، قفزت نتائج النماذج على اختبارات صعبة قفزات كبيرة. يرصد تقرير مؤشر الذكاء الاصطناعي من جامعة ستانفورد ارتفاعًا بنحو 67 نقطة على اختبار لحل مشكلات برمجية حقيقية (SWE-bench) خلال عام من إطلاقه ^[2]. ويذكر التقرير نفسه أن كلفة تشغيل نظام بمستوى GPT-3.5 انخفضت أكثر من 280 مرة بين نهاية 2022 وخريف 2024 ^[2]. ما كان مكلفًا ونادرًا صار رخيصًا ومتاحًا.

والقدرة لا تتحسن في الدقة فقط، بل في طول النَّفَس أيضًا. وجدت مؤسسة METR في دراسة نشرتها عام 2025 أن طول المهام التي يستطيع وكلاء الذكاء الاصطناعي إنجازها بنجاح في نصف المحاولات تضاعف تقريبًا كل سبعة أشهر خلال السنوات الست السابقة ^[3]. والمؤسسة نفسها تنبه إلى أن بعض أرقامها تتقادم مع البيانات الجديدة. لكن الاتجاه واضح: الآلة لم تعد تجيب عن سؤال، بل صارت تنفذ سلسلة خطوات.

وخلف ذلك كله حجم حوسبة يتضاعف بسرعة. تقدّر Epoch AI أن الحوسبة المستخدمة في تدريب النماذج البارزة تتضاعف تقريبًا كل ستة أشهر منذ 2010 ^[4].

والانتشار يواكب القدرة. فحسب تقرير ستانفورد نفسه، قالت 78% من المؤسسات إنها استخدمت الذكاء الاصطناعي عام 2024، بعد أن كانت النسبة 55% في العام السابق ^[2]. لم تعد هذه أدوات المختبرات الكبرى فقط، بل صارت في المكتب والصف والهاتف.

ما معنى هذا لنا؟ معناه أن خريطة اليوم لن تصلح بعد عام. ومن يخطط لمدرسته أو مؤسسته على أساس ما تستطيعه النماذج الآن، سيجد نفسه متأخرًا قبل أن يبدأ.

حين نسلّم البوصلة دون أن ننتبه

الخطر الأقرب ليس آلة تتمرد علينا. الخطر الأقرب أبسط من ذلك بكثير: أن نتوقف نحن عن التفكير لأن هناك من يفكر عنا.

في دراسة نُشرت في مجلة Radiology عام 2023، قرأ 27 طبيب أشعة صورًا للثدي مع اقتراحات من نظام ذكاء اصطناعي. حين كان الاقتراح صحيحًا، أصاب الأطباء قليلو الخبرة في نحو 80% من الحالات. وحين كان الاقتراح خاطئًا، هبطت دقتهم إلى 19.8% ^[5]. حتى الأطباء الأكثر خبرة هبطت دقتهم من 82.3% إلى 45.5% ^[5]. هذا ما يسميه الباحثون "تحيز الأتمتة" (automation bias): نميل إلى تصديق الآلة لأنها آلة.

وفي دراسة لباحثين من Microsoft Research عُرضت في مؤتمر CHI 2025، شارك 319 موظفًا معرفيًا بـ936 مثالًا من عملهم اليومي مع أدوات الذكاء الاصطناعي التوليدي ^[6]. النتيجة لافتة: كلما زادت ثقة الشخص بالأداة، قلّ تفكيره النقدي. وكلما زادت ثقته بنفسه في المهمة، زاد تفكيره النقدي ^[6].

نحن في الكشافة نعرف هذا الدرس جيدًا. البوصلة لا تمشي عنك. هي تقول لك أين الشمال، لكنك أنت من يقرر إلى أين تذهب، ومتى تتوقف، ومتى تعود. الكشاف الذي يتبع الجهاز دون أن يرفع عينه إلى الطريق قد يصل إلى حافة الوادي وهو واثق تمامًا.

أين يقع الخط بين التمكين وفقدان السيطرة؟

التمكين أن تفعل الأداة ما كنا نعجز عنه، ونحن نفهم ما تفعله ونستطيع إيقافه. فقدان السيطرة أن نعجز عن الفهم، أو عن المراجعة، أو عن قول "لا".

المشكلة أن الانتقال من الأول إلى الثاني لا يحدث في لحظة واحدة. يحدث بالتدريج، قرارًا صغيرًا بعد قرار.

ويعترف تقرير الأمم المتحدة "حوكمة الذكاء الاصطناعي من أجل الإنسانية" بأن أحدًا اليوم لا يفهم كل آليات عمل هذه الأنظمة بما يكفي للتحكم الكامل في مخرجاتها أو التنبؤ بتطورها ^[8]. ويرصد التقرير فجوة أخرى: من بين سبع مبادرات دولية بارزة لحوكمة الذكاء الاصطناعي خارج الأمم المتحدة، هناك سبع دول فقط مشاركة فيها كلها، و118 دولة غير مشاركة في أي منها، أغلبها في الجنوب العالمي ^[8]. أي أن معظم العالم، ومنطقتنا منه، ليس على الطاولة حين تُرسم القواعد.

وقد جمع "التقرير الدولي لسلامة الذكاء الاصطناعي" الصادر في يناير 2025 نحو مئة خبير، بمشاركة لجنة استشارية رشّحتها ثلاثون دولة إضافة إلى الأمم المتحدة والاتحاد الأوروبي ومنظمة التعاون الاقتصادي والتنمية ^[1]. مجرد وجود هذا الجهد يقول شيئًا: السؤال لم يعد هامشيًا.

أما على مستوى القانون، فقد دخل قانون الذكاء الاصطناعي الأوروبي حيز التنفيذ في 1 أغسطس 2024، وهو يشترط "إشرافًا بشريًا مناسبًا" على الأنظمة عالية الخطورة في مجالات مثل التعليم والتوظيف ^[9].

من تجربتنا، نرسم الخط بهذه القواعد العملية:

• إذا لم تستطع شرح القرار، فلا تعتمده. الأداة التي تعطيك جوابًا بلا سبب تطلب منك ثقة عمياء.
• القرار الذي يمس إنسانًا يمر بإنسان. القبول، والتقييم، والعقوبة، والعلاج لا تُترك للآلة وحدها.
• احسب بالمنطق، واشرح بالذكاء الاصطناعي. ما يمكن حسابه بقواعد واضحة يجب ألا يُترك لنموذج احتمالي.
• احتفظ دائمًا بزر الإيقاف. أي نظام لا تستطيع إيقافه أو التراجع عن نتيجته ليس أداة، بل التزام.
• راقب مهاراتك أنت. إن لاحظت أنك لم تعد تستطيع أداء المهمة بدون الأداة، فهذه إشارة تستحق الانتباه.

ما نتعلمه من بناء أدواتنا

هذه القواعد لم نكتبها من الكتب. كتبناها لأننا اصطدمنا بها ونحن نبني.

حين بنينا "كاشف"، أداة تدقيق الأمان، كان الخيار السهل أن نطلب من النموذج أن يعطي الموقع درجة. لم نفعل. الدرجة تُحسب بمنطق ثابت يمكن لأي إنسان أن يراجعه خطوة بخطوة. دور الذكاء الاصطناعي أن يشرح النتيجة بلغة مفهومة، لا أن يقررها. لو أخطأ النموذج في الشرح، يبقى الرقم صحيحًا ويمكن التحقق منه.

وفي "لينك جارد" قررنا ألا نكتفي بقول "هذا الرابط خطر". المستخدم يرى دائمًا: لماذا هذا الحكم؟ ما الإشارات التي رأيناها؟ هكذا يتعلم الشخص أن يرى بنفسه، ولا يحتاج الأداة في المرة القادمة بالقدر نفسه.

ومع "نجم"، المساعد الذي يخدم أكثر من 1,500 قائدًا كشفيًا عبر تيليغرام، تعلمنا أن الأداة الجيدة تختصر الوقت، لكنها لا تأخذ مكان القائد. هي تذكّر وتجمع وتقترح. أما الحكم على موقف تربوي مع فتى في المخيم، فهذا يبقى لإنسان يعرفه.

ما الذي يمكننا فعله الآن

هناك فجوة واضحة بين الخبراء والناس. وجد مركز Pew عام 2025 أن 56% من خبراء الذكاء الاصطناعي يتوقعون أثرًا إيجابيًا له على الولايات المتحدة خلال عشرين عامًا، مقابل 17% فقط من عامة الناس ^[7]. لكن الطرفين يتفقان على شيء واحد: نحو 55% من الناس و57% من الخبراء يريدون سيطرة أكبر على طريقة استخدام الذكاء الاصطناعي في حياتهم ^[7].

هذه الرغبة المشتركة هي نقطة البداية. والسيطرة لا تُمنح، بل تُمارس.

كأفراد، نستطيع أن نقرأ الجواب قبل أن ننسخه، وأن نسأل "كيف عرفت؟" قبل أن نسأل "ما الجواب؟". وأن نحتفظ بمهارة واحدة على الأقل نؤديها بأيدينا كل أسبوع.

كمربّين وقادة، نستطيع أن نعلّم الشباب استخدام الأداة وتحدّيها معًا. نشاط بسيط: أعطِ الفريق جوابًا من نموذج لغوي، واطلب منهم أن يجدوا فيه خطأً واحدًا. هذا يبني عضلة الشك الصحي. ونشاط آخر: اطلب منهم حل المسألة أولًا بأنفسهم، ثم مقارنة حلّهم بحل الآلة، ومناقشة الفرق. هكذا تصبح الأداة زميلًا يُراجَع، لا مرجعًا يُطاع.

كبنّائين، نستطيع أن نصمم أنظمة تشرح نفسها، وتُبقي الإنسان في الحلقة (human in the loop)، وتفصل بين ما يُحسب وما يُقترح. الشفافية ليست ميزة إضافية. هي شرط للثقة.

ومنطقتنا ليست مضطرة لأن تكون مستهلكة فقط. كل مدرسة وجمعية وفريق صغير يبني أداة بقيم واضحة يضيف صوتًا إلى طاولة ما زالت تُرسم.

النماذج الذكية سترسم خرائط أدق كل عام. هذا مؤكد تقريبًا. لكن الخريطة، مهما كانت دقيقة، لا تختار الوجهة.

الأداة ترسم الخريطة، ونحن من يمسك البوصلة.