لم تعد النقاشات الدائرة حول نماذج الذكاء الاصطناعي تقتصر على الأداء التقني أو دقة الإجابات، بل انتقلت إلى مستوى أكثر حساسية يتعلق بطبيعة العلاقة بين المستخدم والنظام. هذا التحول ظهر بوضوح في ردود الفعل التي صاحبت إطلاق نماذج مثل Claude Fable، حيث لم يكن الاعتراض منصباً على جودة المخرجات بقدر ما ركّز على غموض آليات التحكم الداخلية وحدود التدخل غير المعلنة في سلوك النموذج.
تشير وثائق صادرة عن شركات تطوير النماذج، مثل ما نشرته Anthropic حول سياسات السلامة للنماذج اللغوية، إلى اعتماد مقاربات تنظيمية داخلية تسمح للنموذج بتقييم المخاطر المحتملة في طلبات المستخدمين. غير أن هذه الآليات، رغم ضرورتها من منظور تقني وأخلاقي، تعمل غالباً دون إشعار المستخدم أو توضيح مباشر لطبيعة القرار المتخذ، وهو ما يفتح الباب أمام تساؤلات تتعلق بالشفافية وقابلية التدقيق.
في بيئات الاستخدام المهني، خاصة داخل المؤسسات الإعلامية أو البحثية، تصبح هذه المسألة أكثر تعقيداً. فحين يتلقى المستخدم استجابة ناقصة أو مرفوضة دون تفسير واضح، لا يمكنه التمييز بين قصور معرفي حقيقي للنموذج وبين تدخل ناتج عن سياسات ضبط داخلية. هذا الغموض يؤثر مباشرة على موثوقية الأداة، خصوصاً في سياقات تتطلب دقة عالية وقابلية التحقق من مصادر المعلومات.
تقارير حديثة، من بينها تحليل نشره Stanford HAI حول شفافية النماذج اللغوية الكبيرة، تبرز أن غياب الوضوح في كيفية اتخاذ القرار داخل الأنظمة الذكية يمثل أحد أبرز التحديات المستقبلية. فالمستخدمون، خاصة في القطاعات الحساسة، يطالبون بإمكانية فهم متى ولماذا يتم تقييد إجابة معينة، أو تعديلها، أو إعادة صياغتها.
هذا النقاش يتقاطع أيضاً مع إشكالية “المراقبة الضمنية” للمدخلات. إذ تشير بعض الممارسات التقنية إلى تحليل مستمر للمطالب النصية بهدف تصنيفها وفق مستويات المخاطر، وهو ما قد يُفسر على أنه شكل من أشكال التتبع السلوكي. رغم أن هذا التحليل يتم غالباً بشكل آلي ودون تخزين دائم، إلا أن غياب التوضيح يخلق انطباعاً بوجود رقابة غير مرئية.
في السياق ذاته، بدأت بعض الجهات التنظيمية في إدراج متطلبات تتعلق بالشفافية ضمن أطر الحوكمة. على سبيل المثال، يتضمن قانون الذكاء الاصطناعي الأوروبي AI Act بنوداً تلزم مزودي الأنظمة المتقدمة بتوضيح حدود الاستخدام وآليات التصفية أو التقييد، خاصة عندما تؤثر هذه العمليات على مخرجات المستخدم بشكل مباشر.
من زاوية تحليلية، يمكن رصد اتجاهين متوازيين في تطور النماذج. الأول يركز على زيادة القدرات المعرفية والتوليدية، وهو ما يشكل محور المنافسة بين الشركات. أما الثاني، الأقل وضوحاً إعلامياً، فيتعلق ببناء طبقات تحكم داخلية معقدة تهدف إلى تقليل المخاطر القانونية والأخلاقية. التوتر بين هذين الاتجاهين هو ما يغذي الجدل الحالي، حيث يرى بعض المستخدمين أن تحسين الأداء لا يمكن أن يكون بديلاً عن وضوح قواعد التشغيل.
في قطاع الإعلام تحديداً، تبرز مخاطر إضافية. إذ قد يؤدي عدم الشفافية إلى إدخال تحيزات غير مرئية في المحتوى المنتج، سواء عبر الحذف الانتقائي للمعلومات أو إعادة صياغتها بطريقة تتماشى مع سياسات داخلية غير معلنة. هذا يطرح تحديات تحريرية تتعلق بمصداقية المحتوى واعتماديته، خاصة في سياقات التحقق من الأخبار أو التحليل السياسي.
بناءً على ذلك، يتزايد الاهتمام بمفاهيم مثل “قابلية التفسير” و”إشعارات التدخل”، حيث يُطالب بأن تُرفق الأنظمة الذكية مخرجاتها بإشارات واضحة عند تطبيق قيود معينة. بعض المبادرات البحثية، مثل مشروع OpenAI Evals لتقييم سلوك النماذج، تسعى إلى تطوير أدوات تسمح بفحص استجابات النماذج وتحديد مدى تأثرها بسياسات داخلية.
المسار المستقبلي لهذه الإشكالية يبدو مرتبطاً بمدى قدرة الشركات على تحقيق توازن بين متطلبات السلامة وحق المستخدم في الفهم. في غياب هذا التوازن، قد تتحول مسألة الثقة إلى عامل حاسم في تبني النماذج، وربما إلى معيار تنافسي لا يقل أهمية عن الأداء التقني ذاته.