يقول موظفو Google إنهم “يشعرون بالخجل” من صفقة البنتاغون التي أبرمتها الشركة

قال أحد موظفي Google DeepMind إنه “يشعر بالخجل الشديد” من كونه باحثًا في الشركة بعد أن وقعت صفقة مع البنتاغون لعمليات سرية.

كتب أندرياس كيرش، عالم الأبحاث في Google DeepMind الذي يعمل في مجال الذكاء الاصطناعي، في منشور يوم الثلاثاء على X: “أنا عاجز عن الكلام عند توقيع Google على صفقة لاستخدام نماذج الذكاء الاصطناعي الخاصة بنا في المهام السرية. بصراحة، إنه أمر مخز”.

واستشهد كيرش بتقرير يوم الاثنين من موقع The Information يفيد بأن جوجل وقعت صفقة تسمح لوزارة الدفاع باستخدام تقنية الذكاء الاصطناعي الخاصة بها في إعدادات سرية. وكان أكثر من 600 موظف في جوجل قد أرسلوا في وقت سابق رسالة يحثون فيها الرئيس التنفيذي ساندر بيتشاي على منع البنتاغون من استخدام الذكاء الاصطناعي الخاص بالشركة في مثل هذا العمل.

وقال كيرش لموقع Business Insider: “عندما ذهبت إلى السرير بالأمس، كنت آمل أن يكون لرسالة الموظف تأثير وتمنحنا وقفة للتفكير”. “استيقظت هذا الصباح على النسخة الأسوأ من العقد الذي توقعه Google في هذه الأثناء.”

صرح متحدث باسم Google لموقع Business Insider أن اتفاقية العمل السري كانت بمثابة تعديل لعقد حالي. وقعت شركة جوجل اتفاقًا مع البنتاغون في أواخر العام الماضي لاستخدام الذكاء الاصطناعي الخاص بها في الأعمال غير السرية.

وقال المتحدث: “نحن ندعم الوكالات الحكومية في كل من المشاريع السرية وغير السرية، ونطبق خبرتنا في مجالات مثل الخدمات اللوجستية والأمن السيبراني والترجمة الدبلوماسية وصيانة الأسطول والدفاع عن البنية التحتية الحيوية”.

وأضافوا: “نحن ملتزمون بإجماع القطاعين الخاص والعام على أنه لا ينبغي استخدام الذكاء الاصطناعي في المراقبة الجماعية المحلية أو الأسلحة المستقلة دون إشراف بشري مناسب”.

وقال كيرش لموقع Business Insider إنه يشعر بخيبة أمل لأن جوجل مضت قدماً في الصفقة.

وقال كيرش لموقع Business Insider: “من المؤسف أن إحدى أكبر وألمع شركات التكنولوجيا تجنبت إجراء مناقشة صادقة حول هذا الأمر عندما لم يكن لدى اللوائح والقوانين الوقت الكافي لمواكبة هذا الأمر بعد، وهي ليست على استعداد لاتخاذ موقف عندما لا يكلف ذلك الكثير بالنظر إلى حجم العقد مقابل إجمالي إيراداته وأرباحه”.

طلب موظفو Google من Pichai عدم التوقيع على صفقة

أشارت الرسالة التي أرسلها موظفو جوجل يوم الاثنين إلى مخاوف بشأن استخدام الذكاء الاصطناعي في مجالات مثل الأسلحة الفتاكة المستقلة والمراقبة الجماعية.

وكتب الموظفون في الرسالة التي استعرضتها Business Insider: “باعتبارنا أشخاصًا يعملون في مجال الذكاء الاصطناعي، نعلم أن هذه الأنظمة يمكنها مركزية السلطة وأنها ترتكب أخطاء”.

“نشعر أن قربنا من هذه التكنولوجيا يخلق مسؤولية لتسليط الضوء على أكثر الاستخدامات غير الأخلاقية والخطرة ومنعها.”

أخبر العديد من موظفي Google Business Insider يوم الثلاثاء أنهم شعروا بالفزع عندما علموا أن Google قد وقعت الصفقة للعمليات السرية. وقال أحدهم إنهم لم يفاجأوا.

في العام الماضي، قامت جوجل بتحديث مبادئ الذكاء الاصطناعي الخاصة بها لإزالة التعهد بعدم استخدام الذكاء الاصطناعي في الأسلحة أو المراقبة. أخبر المسؤولون التنفيذيون في Google DeepMind الموظفين في اجتماع في شهر يناير الماضي أنهم يجب أن يتوقعوا المزيد من الصفقات الدفاعية في المستقبل.

وقال كيرش لموقع Business Insider: “كان من المفترض أن يسمح إلغاء التعهدات بدراسة أكثر دقة”. “لا أرى فارقًا بسيطًا هنا في السماح بكل الاستخدام القانوني، والذي، وفقًا لعلماء القانون، يشمل الأسلحة المستقلة والمراقبة الجماعية كما نفهمها، وعدم وجود حواجز حماية حقيقية باستثناء تلك المزيفة”.

وفي منشوره على موقع X، أشار كيرش إلى اتفاقية مماثلة بين OpenAI والبنتاغون بشأن الأنظمة السرية.

وكتب: “بصراحة، بعد كل التدقيق الذي تلقاه عقد OpenAI، لا أفهم كيف يمكننا التوقيع على عقد أضعف ولا نتوقع أن يُنظر إلى هذا على أنه تعاملات قصيرة النظر وجشعة تفقد الثقة”.

هل لديك شيء للمشاركة؟ اتصل بهذا المراسل عبر البريد الإلكتروني على [email protected] أو الإشارة على الرقم 628-228-1836. استخدام عنوان بريد إلكتروني شخصي وجهاز غير خاص بالعمل؛ إليك دليلنا لمشاركة المعلومات بشكل آمن.