اعلن تطبيق “تيك توك” الشهير، أنه أزال أكثر من 200 مليون محتوى في 3 أشهر، حيث عدّها غير مرغوبة، أو تكسر القوانين التي وضعها التطبيق، أو ضد الأطفال، أو تدعو للعنف.
وذكر مسؤولون في تطبيق “تيك توك” أن عملية المراقبة تجري من خلال الذكاء الاصطناعي بوصفه مرحلة أولى، ومن ثمَّ يوجد أكثر من 40 ألف موظف حول العالم، وبلغات مختلفة تصل إلى 70 لغة، لمراقبة المحتوى بهدف رصد جميع المحتوى المخالف والعنيف.
وبدء التطبيق يستخدم الذكاء الاصطناعي بشكل كبير لمراقبة جميع المحتوى الذي يجري تحميله عبر التطبيق أو البث المباشر بشكل سريع وفعال تحت اشتراطات محددة مسبقاً، والتي تصل إلى إلغاء بعض الحسابات التي تنشر محتوى عنيفاً أو أي محتوى يعد التطبيق مخالفاً لاشتراطاته.
ويحمل مركز الشفافية لتطبيق تيك توك على الحد من وصول بعض المحتوى للأطفال تحت اشتراطات معينة، وحسب الفئة العمرية التي تسمح أيضاً بمراقبة الآباء لجميع المحتوى الذي يصل لأبنائهم المراهقين من بين 13 إلى 16، ومن 16 إلى البلوغ 18 عاماً، للعمل على منع الوصول إلى محتوى لا يناسب المراهقين أو الأطفال.
كما يعمل التطبيق -وفق ما ذكره بعض المسؤولين في مركز الشفافية- على تحديث الاشتراطات والأنظمة والقوانين لحماية الأطفال والمراهقين، أو بث محتوى مخالف للأنظمة والاشتراطات التي وضعها.
وقال المسئولون إن هناك مجموعة من المعايير وقواعد السلوك المشتركة التي تساعدهم في الحفاظ على بيئة آمنة وشاملة؛ إذ تشجع على التفاعلات الحقيقية وإنشاء المحتوى الأصلي.
وذكروا أنهم يعملون على مراجعة إرشادات المجتمع وتحديثها بانتظام، لتتطور جنباً إلى جنب مع السلوكيات والمخاطر الجديدة، وأن الغاية هي توفير تجربة قوامها الأمان والترفيه.
وشددوا على أنهم لا يتأخرون في إزالة أي محتوى أو حسابات تنتهك إرشادات المجتمع، خصوصاً أن تقنية الإشراف الآلي عبر الذكاء الاصطناعي تهدف إلى تحديد المحتوى الذي يُنتهك، وذلك عبر الكلمات الرئيسية والصور والعناوين والأوصاف والصوت. وفي حال عدم العثور على أي انتهاك، تتاح الفيديوهات المُراجعة لعرضها على المنصة.
أما في حال العثور على انتهاك محتمل، فسيقوم نظام الإشراف الآلي إما بتمرير الفيديو إلى فرق السلامة لدينا لإجراء مزيد من المراجعة، وإما إزالته تلقائياً إذا كانت هناك درجة عالية من الثقة بأن المحتوى ينتهك إرشادات المجتمع حقاً، وتُجرى هذه الإزالة التلقائية متى كانت الانتهاكات المكتشفة شديدة الوضوح، مثل وجود عري أو أمور تهدد سلامة صغار السن.
