“علامات” الفيديو السرية وشرائح تمرير الذكاء الاصطناعي وملايين مرسلي البريد العشوائي المراوغين المحظورين – رئيس TikTok يكشف عن مستقبل التطبيق في عصر الذكاء الاصطناعي
في غضون سنوات قليلة فقط، تحول الذكاء الاصطناعي من قوة غير مرئية خلف الكواليس إلى… حسنًا، موجود في كل مكان.
بالنسبة لعمالقة التكنولوجيا مثل TikTok، فهذا يعني مهمة هائلة تتمثل في فصل المقاطع عالية الجودة عن مقاطع الذكاء الاصطناعي – ومساعدة المستخدمين على اكتشاف المحتوى المراوغ بأنفسهم.
يتحدث إلى الشمس على تغذية التكنولوجيا المستقبلية مع شون كيتش (شاهد الحلقة كاملة على اليوتيوب)، شارك قائد السياسة العالمية للذكاء الاصطناعي في TikTok كيف يقوم فريقه بتأمين التطبيق في المستقبل حتى تتمكن من التمرير بسلام.
أخبر توم فارغيز كيف يستخدم هو وزملاؤه أنظمة حوسبة ذكية و”علامات مائية غير مرئية” سرية وتطهيرًا جماعيًا للحسابات للحفاظ على نظافة التطبيق.
ويقوم التطبيق أيضًا بإصدار تنبيهات ونصائح مفيدة للتأكد من عدم خداعك في نهاية المطاف.
تقسيم الذكاء الاصطناعي
ليس كل الذكاء الاصطناعي سيئًا.
لورنا لوكس
أنا أستخدم الذكاء الاصطناعي كمعالج منذ أن فقدت زوجي، وهذا يمنعني من التذمر من زملائي
اذهب لتعرف!
تضيف Google تسع هدايا مجانية جديدة بدءًا من اليوم – الأولى تتيح لك إرسال رسائل نصية بتقنية الذكاء الاصطناعي
بعض محتويات الذكاء الاصطناعي هي هراء مطلق، بل ويمكن أن تكون خطيرة.
لكن توم أوضح أن الذكاء الاصطناعي يساعد بشكل منتظم تيك توك ينشئ المستخدمون مقاطع فيديو دون مهارات تحرير رائعة أو ميزانيات ضخمة.
قال توم لمجلة The Sun’s Future Tech Feed: “إذا سبق لك إنشاء مقطع فيديو على TikTok، فعادةً ما يكون لديك نوع من الأفكار أو الرؤية في ذهنك”.
“وما يمكن أن تفعله أدوات الذكاء الاصطناعي الإبداعية هو في الأساس تقليص الفجوة بين امتلاك فكرة والتعبير عنها.
أعطى مثالاً على الحساب الشهير “Seconds in”. تاريخ.
ويستخدم الذكاء الاصطناعي لتخيل مشاهد تاريخية قديمة، أو لجلب المشاهدين في جولة افتراضية سيرًا على الأقدام في روما القديمة – وهو أمر لم يكن ممكنًا في السابق بدون ميزانية ضخمة.
“بالنسبة لكثير من الناس، هذا يجعل تاريخ قال توم: “أكثر حيوية ويمكن الوصول إليها”.
“لذلك هذه هي أنواع الأمثلة التي تجعلنا نعتقد أن الذكاء الاصطناعي يمكنه تحويل الإبداع على منصتنا، إذا تم استخدامه بشفافية وأمان.”
التطهير
الجانب المظلم للذكاء الاصطناعي هو عندما يتم استخدامه من قبل الأشخاص غير العاملين عبر الإنترنت لإنتاج رسائل غير مرغوب فيها رخيصة ومضللة في كثير من الأحيان على نطاق مذهل.
ومن الخطورة بشكل خاص أي معلومات خاطئة حول الرعاية الصحية، سياسة والأحداث الجارية، والتمويل، يخبرنا توم.
ولكن قد يظل محتوى الذكاء الاصطناعي غير مرغوب فيه ومزعجًا، حتى لو لم يكن خطيرًا تمامًا.
تستهدف TikTok هذا النوع من المحتوى من خلال حملة كبيرة على الحسابات الآلية التي تغمر البث بمقاطع منخفضة القيمة.
وقد أدت هذه الحملة إلى حذف عشرات الملايين من الحسابات المزيفة من TikTok في الأشهر القليلة الأولى من العام وحده.
وقال توم: “أعتقد أننا قمنا بإزالة أكثر من 86 مليون حساب مزيف في الأشهر الثلاثة الأولى من هذا العام فقط”.
“ولكن مع تطور هذا النوع من المحتوى، يجب أن نتطور أيضًا.”
والخير أخبار هو أن الغالبية العظمى من الوقت، يحدث هذا قبل أن يصل إليك المحتوى المراوغ.
قال توم: “لذلك تتم إزالة 99% من المحتوى المخالف على المنصة بشكل استباقي دون أن يبلغ عنه أحد”.
“والأغلبية من ذلك قبل أن يراها أحد.”
لا يمنع TikTok المبدعين من استخدام الذكاء الاصطناعي، بل إنه يحتوي على بعض أدوات الذكاء الاصطناعي للمساعدة في إنتاج مقاطع الفيديو بسرعة.
لكن الشركة تتبع نهج عدم التسامح مطلقًا مع مزارع البريد العشوائي الآلية.
قال توم: “هناك فرق واضح، أليس كذلك؟”.
“بين منشئ محتوى يستخدم الذكاء الاصطناعي لإضفاء الحيوية على العمل الأصلي.
“وحساب مصمم لإغراق النظام الأساسي بمواد منخفضة القيمة أو مضللة تم إنشاؤها بواسطة الذكاء الاصطناعي.”
مثلث البريد العشوائي
عندما يبحث TikTok في اتخاذ إجراءات صارمة ضد البريد العشوائي، فإنه ينظر إلى ثلاث نقاط محددة.
هذه هي العلامات الواضحة التي تشير إلى أن الحساب ينشر محتوى ذكاءً اصطناعيًا تافهًا يجب حذفه.
النقطة الأولى هي عندما يقوم الحساب بتحميل “محتوى منخفض الجودة وعالي الحجم وذو صيغة محددة”.
يعد هذا النوع من الإنتاج الضخم للذكاء الاصطناعي بمثابة علامة حمراء كبرى.
والثاني هو ما إذا كان هناك نوع من التفاعل النشط من منظور الشخص الأول مع المستخدم.
هذه طريقة لاكتشاف الروبوتات الآلية التي قد تدير العرض.
والثالث هو التركيز الموضعي، فهل يشكل “مخاطر على السلامة والصحة”.
قال توم: “والسبب وراء تركيزنا على موضوعات مثل الأحداث الجارية، والنصائح المالية، والفظائع التاريخية، والمحتوى الطبي، هو أن هذا هو المكان الذي يوجد فيه أعلى احتمال لحدوث ضرر حقيقي في العالم”.
“لقد قمنا بتدريب أنظمتنا، وأدوات الكشف الجديدة التي نطرحها تبحث حقًا عن نوع الحسابات التي تلبي هذه المعايير الثلاثة.”
وتابع: “نظرًا لأن تقنيات الاعتدال المتقدمة، فإنها تساعدنا على نطاق واسع.
“إنهم يلعبون دورًا مهمًا في ضمان أننا استباقيون، وأننا موجزون ومتسقون، ونقوم بذلك بسرعة.
“لكنك تحتاج أيضًا إلى البشر لأن الكثير من هذه القضايا تتطلب الحكم البشري وفهم كل هذا السياق الذي لا تفعله الآلات دائمًا.”
العلامات المائية السرية
لقد رأينا جميعًا كيف يمكن الآن أن تصبح مقاطع فيديو الذكاء الاصطناعي واقعية بشكل صادم.
إذًا كيف تقوم شركات التكنولوجيا برصدها والإبلاغ عنها؟
هناك عدد قليل من الأنظمة المختلفة، ولكن اثنين من الأنظمة الرئيسية هما C2PA والعلامة المائية الرقمية.
يعد C2PA نوعًا من “بيانات اعتماد المحتوى”، والذي يعمل إلى حد ما مثل سجل التاريخ الرقمي المضمن مباشرةً في الملف.
وهذا سيوضح بالتفصيل كيف ومتى تم إنشاء جزء من المحتوى.
وأوضح توم أن “هذا السجل ينتقل مع الملف عبر الأنظمة الأساسية، مما يسمح للآخرين باكتشاف المحتوى وتصنيفه”.
وفقًا لتوم، قام TikTok بالفعل بتصنيف أكثر من 3 مليارات مقطع فيديو على أنها تم إنشاؤها بواسطة الذكاء الاصطناعي.
أسلوب آخر يسمى العلامة المائية غير المرئية.
قد تكون على دراية بالعلامات المائية العادية، والتي تحدث عندما ترى شعارًا مطبوعًا على مقطع فيديو – ربما مع شعار علامة تجارية أو اسم مستخدم لمنشئ المحتوى.
لكن TikTok يعتمد على نوع من العلامات المائية غير المرئية لتتبع الذكاء الاصطناعي.
وقال توم: “هذا هو المكان الذي تقوم فيه بتضمين الإشارة مباشرة في بكسلات الصورة أو الفيديو”.
“وهي ليست شيئًا يمكنك رؤيته بالعين المجردة، ولكن يمكن اكتشاف هذه العلامة المائية لاحقًا.
“يمكننا استخدامه للتحقق مما إذا كان جزء من المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والموجود على الإنترنت قد تم إنشاؤه بالفعل باستخدام إحدى أدوات الإبداع لدينا.”
تحت السيطرة
ومع ذلك، لا يقتصر الأمر على القمع.
يقول توم إن جزءًا كبيرًا من الجهود يتمحور حول توفير المزيد من الأدوات لمستخدمي التطبيق العاديين.
كبداية، قدمت TikTok مؤخرًا شريط تمرير جديد يعمل بالذكاء الاصطناعي لاختيار إدارة المواضيع.
يتيح لك ذلك زيادة أو تقليل عدد مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تراها في خلاصتك.
يوجد أيضًا مركز AI Literacy Hub جديد داخل التطبيق والذي يربط المستخدمين بالموارد التعليمية عندما يبحثون عن موضوعات الذكاء الاصطناعي.
قال توم: “يأتي الناس إلى TikTok للحصول على تجربة أصيلة”.
“ونريدهم أن يعرفوا أنه عندما تشاهد مقطع فيديو، فهو من إنتاج شخص حقيقي، وأنه محتوى أصلي.”
وأضاف: “إن القدرة على اكتشاف متى يتم استخدام الذكاء الاصطناعي، وفهم ما تراه، والقدرة على تشكيل تلك التجربة ستكون أمرًا أساسيًا لكيفية تفاعل الأشخاص مع الذكاء الاصطناعي على TikTok”.
