يقول دانييل كوكوتاجلو، الباحث السابق في OpenAI والذي يدير الآن مشروع AI Futures Project، إن صناعة الذكاء الاصطناعي تتسابق لبناء أنظمة لا تزال الشركات لا تفهمها أو تسيطر عليها بشكل كامل.
تحدث كوكوتاجلو مع ريم مخول وباربرا كوربيليني دوارتي من Business Insider في مايو 2025، موضحًا أن المشكلة الأساسية التي تواجه شركات الذكاء الاصطناعي هي المواءمة – الجهد المبذول لضمان أن أنظمة الذكاء الاصطناعي المستقبلية تتبع التعليمات والقيم البشرية بشكل موثوق، حتى بعد أن تصبح أكثر قدرة من البشر في العديد من المجالات.
وقال إن الباحثين لا يفهمون تمامًا كيف تتخذ نماذج الذكاء الاصطناعي المتقدمة القرارات داخليًا. إن عدم اليقين هذا يجعل من الصعب ضمان توافق أنظمة الذكاء الاصطناعي المستقبلية ومتابعتها بشكل موثوق للأهداف التي يريد البشر أن تسعى إلى تحقيقها.
وقال: “إنه نوع من السر المكشوف، ولكن ليس لدينا حقًا خطة جيدة لكيفية القيام بذلك حتى الآن”، في إشارة إلى تنفيذ محاذاة الذكاء الاصطناعي.
عمل كوكوتايلو في OpenAI من عام 2022 إلى عام 2024 في التنبؤ بالأبحاث، ودراسة مدى السرعة التي يمكن أن تتحسن بها أنظمة الذكاء الاصطناعي والمخاطر الاقتصادية والسياسية والمخاطر المتعلقة بالسلامة التي يمكن أن تنشأ عندما تقوم الشركات ببناء نماذج أكثر قوة، قبل مغادرة الشركة.
والآن، من خلال منظمته البحثية غير الربحية، مشروع AI Futures، يركز على موضوعات مماثلة. وعلى وجه الخصوص، يتنبأ بمدى السرعة التي يمكن أن تتقدم بها أنظمة الذكاء الاصطناعي وما هي المخاطر التي قد تنشأ إذا استمرت الشركات في إعطاء الأولوية للسرعة والمنافسة.
وقال: “بعد بناء الذكاء الفائق، لن يعد البشر مسؤولين عن الكوكب، أو على الأقل ليس بشكل افتراضي”.
ويأتي تحذيره في الوقت الذي تواصل فيه شركات الذكاء الاصطناعي ضخ مليارات الدولارات في نماذج أكثر قوة ومراكز بيانات أكبر.
وقال كوكوتايلو إن الكثير من الناس ما زالوا يقللون من وتيرة التقدم لأن مناقشات الذكاء الاصطناعي غالباً ما تبدو وكأنها خيال علمي.
لا يستطيع المهندسون تتبع الذكاء الاصطناعي مثل البرامج الأخرى
وقال كوكوتايلو إن أنظمة الذكاء الاصطناعي الحالية تظهر بالفعل سلوكيات يكافح الباحثون للتنبؤ بها أو منعها.
وقال: “في الواقع، ليس لدينا حتى طريقة موثوقة للتحكم في أنظمة الذكاء الاصطناعي الحالية كما يتضح من حقيقة أنها غالبًا ما تكذب على المستخدمين على الرغم من تدريبها على عدم الكذب”.
وقال كوكوتايلو إن الباحثين لا يمكنهم ببساطة فحص أنظمة الذكاء الاصطناعي المتقدمة بنفس الطريقة التي يفحص بها المهندسون البرامج التقليدية، لأن نماذج الذكاء الاصطناعي الحديثة لا تعمل من خلال تعليمات برمجية يمكن قراءتها بوضوح.
وقال: “لا يمكننا فقط فتح الكود الخاص بهم ومعرفة الأهداف التي انتهى بهم الأمر إلى تعلمها نتيجة لهذه العملية لأنهم لا يعملون بهذه الطريقة”. “ليس لديهم مجموعة من التعليمات البرمجية. لديهم مجموعة من الخلايا العصبية أو المعلمات الاصطناعية.”
وقال إن عدم اليقين يصبح أكثر إثارة للقلق مع توجه الشركات نحو أنظمة يمكنها العمل بشكل أكثر استقلالية دون إشراف بشري.
وقال كوكوتايلو: “في الوقت الحالي، لا تتسم أنظمة الذكاء الاصطناعي بالفعالية الكافية”. “بدلاً من ذلك، يقومون فقط بإخراج فقرة أو فقرتين من النص ردًا على سؤالك، ولكن في المستقبل سيكون لدينا وكلاء الذكاء الاصطناعي الذين يعملون بشكل مستمر ومستقل ويكونون أشبه بالموظفين.”
وأشار كوكوتايلو أيضًا إلى أمثلة لأنظمة الذكاء الاصطناعي التي تتصرف بطرق غير متوقعة أثناء التدريب.
وقال: “نشرت OpenAI ورقة بحثية وصفوا فيها كيف وجدوا أن الذكاء الاصطناعي الخاص بهم يخترق عملية التدريب، وبدلاً من إكمال المهام بشكل مباشر وفقًا للتعليمات، كانوا يغشون في بعض المهام”. “ومن الرائع أن لدينا هذه الأمثلة بالفعل لأن ذلك يعني أن أمامنا عدة سنوات لدراسة هذه الظاهرة ومحاولة إصلاحها قبل فوات الأوان.”
سباق الذكاء الاصطناعي
وقال كوكوتايلو إن الضغط التنافسي بين الشركات الأمريكية والصينية يمكن أن يدفع الشركات إلى نشر أنظمة ذكاء اصطناعي قوية بشكل متزايد قبل حل مشاكل السلامة.
وقال “هذه الشركات تركز على الفوز والتغلب على بعضها البعض”. “إنهم نوعًا ما يخطون أصابعهم ويخططون للتعامل مع هذه القضايا لاحقًا عند ظهورها.”
ووصف المستقبل الذي تقوم فيه أنظمة الذكاء الاصطناعي بأتمتة أجزاء كبيرة من الأبحاث والعمليات التجارية والتخطيط العسكري.
وقال: “لذا فإن المعلم الأول هو موظف الذكاء الاصطناعي الذي يمكنه أتمتة البرمجة”. “الإنجاز الثاني هو موظف الذكاء الاصطناعي الذي يمكنه أتمتة عملية بحث الذكاء الاصطناعي بأكملها.”
وبعد ذلك، قال: “تحصل على الذكاء الفائق”.
دعوة للشفافية والحواجز
وقال كوكوتايلو إن الحكومات لا يزال لديها الوقت للتدخل قبل أن تندمج أنظمة الذكاء الاصطناعي بشكل عميق في الاقتصاد والبنية التحتية العسكرية.
وقال: “إن الهدف من التدخل هو في الأساس قبل أن تصبح أنظمة الذكاء الاصطناعي ذكية وقبل أن يتم دمجها في كل شيء”.
وقال أيضًا إن الصناعة تحتاج إلى مزيد من الشفافية حول كيفية قيام الشركات بتدريب ونشر النماذج المتقدمة.
وقال كوكوتايلو: “يجب أن تكون الشركات شفافة بشأن الأهداف والمبادئ وما إلى ذلك التي تحاول تدريبها على النماذج”.
وعلى الرغم من مخاوفه، يظل كوكوتاجلو متفائلاً بحذر.
وقال “لا أعتقد أن الأمر ميئوس منه”. “أعتقد أن مشاكل المواءمة الفنية قابلة للحل.”
