توصل باحثون من منظمة هيومن رايتس ووتش (HRW) إلى اكتشاف صور شخصية لأطفال أستراليين في مجموعة بيانات . وتعتقد المنظمة أن الصور قد تم التقاطها من مواقع مشاركة الصور والفيديو بما في ذلك يوتيوب ، بالإضافة إلى مواقع أخرى يفترض الكثيرون أنها خاصة. تُنتهك خصوصية الأطفال الأستراليين على نطاق واسع من قبل صناعة الذكاء الاصطناعي أو الـ (AI) تستخدم لتدريب بعض النماذج .
في السنوات الأخيرة، أصبحت الصور المولدة بواسطة الذكاء الاصطناعي، والمعروفة أيضًا بالصور المزيفة العميقة أو “الديب فيكس”، أكثر تعقيدًا وانتشارًا. تعتمد هذه التكنولوجيا على الشبكات العصبية الاصطناعية لتوليد صور وفيديوهات واقعية للأشخاص، مما يثير مخاوف كبيرة بشأن الخصوصية وحقوق الإنسان، خاصة للأطفال.
الاختصاصية في مجال الذكاء الاصطناعي المهندسة فاطمة حبلص أشارت إلى أن تقنية الديب فيكس تستخدم خوارزميات التعلم العميق لتحليل مجموعة كبيرة من الصور والفيديوهات الحقيقية لشخص معين. بعد ذلك، يمكن للخوارزمية توليد صور أو فيديوهات جديدة لهذا الشخص تبدو واقعية تمامًا، ولكنها في الواقع مزيفة. هذه التكنولوجيا تعتمد بشكل كبير على البيانات المتاحة على الإنترنت، والتي تشمل الصور ومقاطع الفيديو العامة.
وأضافت المهندسة فاطمة أن الصور المولدة بواسطة الذكاء الاصطناعي تشكل تهديدًا كبيرًا للخصوصية. يمكن لأي شخص استخدام هذه التكنولوجيا لإنشاء صور أو فيديوهات مزيفة لأشخاص آخرين دون موافقتهم. يمكن أن تُستخدم هذه الصور لأغراض خبيثة، مثل الابتزاز أو التشهير. بالنسبة للأطفال، تكون المخاوف أكبر، حيث يمكن استخدام صورهم بطرق غير لائقة، مما يعرضهم للتنمر والاستغلال.
الأطفال هم الفئة الأكثر عرضة للخطر عندما يتعلق الأمر بالصور المولدة بواسطة الذكاء الاصطناعي. يمكن للصور المزيفة أن تُستخدم لاستهداف الأطفال عبر الإنترنت بطرق مختلفة، من التنمر الإلكتروني إلى الاستغلال الجنسي. الأطفال غالبًا ما يكونون أقل وعيًا بالمخاطر على الإنترنت، مما يجعلهم أهدافًا سهلة للمستغلين الذين يستخدمون هذه التكنولوجيا.
تثير الصور المولدة بواسطة الذكاء الاصطناعي أيضًا قضايا مهمة تتعلق بحقوق الإنسان. تُمثل هذه التكنولوجيا تهديدًا لحق الأفراد في الخصوصية وحقهم في حماية صورتهم الشخصية. يمكن للصور المزيفة أن تُستخدم لنشر معلومات مضللة أو لتشويه سمعة الأشخاص، مما يؤثر على حياتهم الشخصية والمهنية.
تعد الصور المولدة بواسطة الذكاء الاصطناعي تقدمًا تقنيًا مثيرًا للإعجاب، ولكنها تأتي مع مجموعة من التحديات والمخاطر. من الضروري أن نتعامل بحذر مع هذه التكنولوجيا، وأن نعمل على وضع إجراءات حماية قوية لحماية الخصوصية وحقوق الإنسان، خاصة للأطفال. المستقبل قد يحمل المزيد من التطورات في هذا المجال، مما يستدعي يقظة مستمرة وتحديثًا مستمرًا للقوانين واللوائح. من المتوقع أن تكشف الحكومة الفيدرالية عن التغييرات المقترحة على قانون الخصوصية الشهر المقبل، بما في ذلك حماية محددة للأطفال على الإنترنت.
استمعوا للحوار كاملاً مع المهندسة فاطمة حبلص في التدوين الصوتي أعلى الصفحة.
أكملوا الحوار عبر حساباتنا على فيسبوك وانستغرام.
اشتركوا في قناة SBS Arabic على يوتيوب لتشاهدوا أحدث القصص والأخبار الأسترالية.
