G Source: Pixabay
للاستماع إلى أحدث التقارير الصوتية والبودكاست، اضغطوا على الرابط التالي.
أكملوا الحوار عبر حساباتنا على فيسبوك وانستغرام.
اشتركوا في قناة SBS Arabic على YouTube لتشاهدوا أحدث القصص والأخبار الأسترالية.
ابقوا على اطلاع من خلال الاشتراك في رسالتنا الإخبارية الأسبوعية المجانية
spk_0
أهلاً بكم مستمعينا الكرام في زمنٍ يتسارع فيه الذكاء الاصطناعي ليصبح جزءاً من تفاصيل حياتنا اليومية. وهنا تظهر أشكال جديدة، بعضها غير تقليدي وربما غير مفهوم تماماً. مصطلحنا اليوم هو "تسميم المعلومات" أو "تسميم البيانات" على الشبكة العنكبوتية، فهل هو خطر جديد يهدد الحقيقة نفسها؟
spk_0
عن هذا الموضوع، أرحب بضيفنا خبير علم البيانات الضخمة والمتخصص بالأمن السيبراني، المهندس بشار القوتلي.
spk_0
الذي عرّف تسميم البيانات بقوله:
spk_1
لتبسيط الأمر، تخيّل أنك تعلّم طفلاً التعرّف على الحيوانات من خلال الصور. لو أدخلت صوراً مشوّهة تُظهر القطة على أنها حيوان آخر، فسيتعلّم بشكل خاطئ. تسميم البيانات هو نفس المبدأ مع أنظمة الذكاء الصناعي: إدخال معلومات مضللة أو معدّلة إلى البيانات التي يتعلّم منها النظام بهدف التأثير على سلوكه أو إضعاف مصداقيته.
spk_1
المشكلة في الأمر أن المستخدم العادي لن يكتشف هذا الموضوع بسهولة، بل سيتلقى نتائج مزيفة أو غير دقيقة. وللأسف، يثق أغلب المستخدمين بنتائج الذكاء الصناعي بنسبة 100%، دون وجود عملية تدقيق حقيقية.
spk_0
لكن لماذا قد يلجأ البعض إلى هذا الأسلوب؟ أستاذ بشار، هل هو نوع من القلق المشروع؟
spk_1
بصراحة، هذا موضوع جدلي. بعض الناس يرونه حقاً مشروعاً للدفاع عن حقوق الإنسان في العمل، وحقوقه الإبداعية والفكرية، تماماً كما كان العصيان المدني في التاريخ وسيلة للمظلومين للمطالبة بحقوقهم. وآخرون يرون أنه تخريب رقمي سيضر بالجميع.
spk_1
الحقيقة أنه يقع في منطقة رمادية بين الاثنين، ولا توجد إجابة سهلة يتفق عليها جميع الناس في هذا الموضوع.
spk_0
دعنا الآن نبسّط الصورة للمستمع. كيف تتم هذه العملية؟
spk_1
عملية تسميم البيانات تتم على مستويين. المستوى الأول بسيط جداً ولا يحتاج إلى أي خبرة تقنية؛ كل ما تحتاجه هو اتصال بالإنترنت، مثل نشر معلومات غير دقيقة.
spk_1
على صفحات الإنترنت، أو تعديل المقالات على ويكيبيديا، أو حتى نشر محتوى مضلل على مواقع التواصل الاجتماعي. وكل هذا يصل في النهاية إلى أنظمة الذكاء الصناعي لتتعلّم منه، وهذا بالضبط ما نسميه تسميم البيانات. أما المستوى الثاني، فالأمر مختلف تماماً وأكثر تعقيداً؛ هنا نتحدث عن تقنيات متقدمة تستغل الثغرات الأمنية في أنظمة الذكاء الصناعي.
spk_1
والتأثير هنا أكبر بكثير، لدرجة قد تشوّه النظام بالكامل وتضرب مصداقيته. الخطر الأكبر هو أزمة الثقة، سواء كنت طالباً تبحث عن مشروع دراسي أو صاحب عمل يتخذ قرارات تجارية مهمة بناءً على ما يقوله الذكاء الاصطناعي. في كل الحالات، قد تثق بمعلومة مبنية على بيانات مسمومة دون أن تدري.
spk_1
المستخدم العادي لن يعرف ذلك أبداً، بل سيتصرف بناءً على هذه المعلومات وكأنها حقيقة مطلقة. تسميم البيانات هو إدخال معلومات مضللة أو معدّلة إلى البيانات التي يتعلّم منها النظام بهدف التأثير على سلوكه أو إضعاف مصداقيته.
spk_0
إذن، بناءً على إجابتك أستاذ بشار، هل هذا يعني أن أي شخص يمكن أن يشارك في هذه العملية؟
spk_1
بالتأكيد، وهنا تكمن الخطورة الحقيقية. المستوى الأول من تسميم البيانات لا يحتاج إلا إلى اتصال بالإنترنت، وأي شخص يمكنه المشاركة فيه. لكن التأثير يكون أكبر إذا كان العمل جماعياً ومنظماً. والأرقام مفاجئة جداً؛ بعض الدراسات تشير إلى أن ملفاً مسموماً واحداً
spk_1
من بين ملايين البيانات قد يكفي للتأثير على أنظمة الذكاء الاصطناعي بغض النظر عن حجمه. وهذا مقلق جداً، لأن هذا المستوى متاح للجميع ولا يحتاج إلى تقنيات متقدمة. بصراحة، الخوف حقيقي ومشروع. مؤخراً، صرّح مصطفى سليمان، رئيس قسم الذكاء الاصطناعي في مايكروسوفت،
spk_1
أن معظم الوظائف المكتبية ستتأثر بشكل كبير خلال العام القادم، وتحديداً المحامين والمحاسبين ومديري المشاريع وموظفي الإدارة بشكل عام. وقال إن كثيراً من مهامهم ستُستبدل بالذكاء الاصطناعي. نعم، الجميع يقول إن الذكاء الاصطناعي سيخلق وظائف جديدة، وهذا صحيح.
spk_1
لكن الخوف الحقيقي عند الناس هو: هل سأحصل على مكان في سوق العمل الجديد؟ وهل لدي الوقت الكافي للتكيف معه؟ الأمر لا يتوقف عند الوظائف. شركات الذكاء الاصطناعي الكبرى جمعت ملايين الصور والنصوص والأعمال الإبداعية من الإنترنت دون إذن أصحابها ودون أي تعويض، لذلك يرى البعض أن تسميم البيانات ليس تخريباً، بل وسيلة للدفاع عن الحقوق.
spk_0
هنا نصل إلى السؤال الأصعب: هل يمكن اعتبار تسميم البيانات
spk_0
نوعاً من أشكال الاحتجاج على الذكاء الاصطناعي ليعطي معلومات غير حقيقية؟ وهل هناك مساءلة قانونية على ذلك؟
spk_1
للأسف، القانون متأخر عن التكنولوجيا. حتى الآن لا توجد قوانين واضحة تحكم تسميم البيانات في معظم دول العالم. نحن في منطقة رمادية قانونياً. بعض الدول تغطيه بقوانين الجرائم الإلكترونية أو الملكية الفكرية،
spk_1
لكن لا توجد تشريعات متخصصة بالذكاء الاصطناعي.
spk_0
هذا يقودني أيضاً، أستاذ بشار، إلى سؤال: ما المخاطر التي قد تنعكس على المستخدم العادي؟ وهل يمكن أن تأتي هذه الممارسات بنتائج عكسية؟
spk_1
بصراحة،
spk_1
الذكاء الاصطناعي موجود وجاء ليبقى، ولا أحد يستطيع إيقافه. لكن السؤال الحقيقي: كيف نتعامل معه بشكل صحيح؟ نحن بحاجة إلى توازن بين الاستفادة من هذه التكنولوجيا وحماية حقوقنا وإبداعنا كبشر. وهذا التوازن لن يأتي تلقائياً، بل يحتاج إلى وعي من المستخدمين وجهود وتشريعات واضحة من الحكومات.
spk_0
إذن، بعد هذا الحوار والإجابات المستفيضة منك، مهندس بشار،
spk_0
في ختام هذا الحوار، كيف ترى مستقبل العلاقة بين الإنسان والذكاء الاصطناعي؟ وماذا تقول كلمة أخيرة للمستمعين في عالم
spk_0
بدأ فيه الذكاء الاصطناعي يتغلغل في كثير من مفاصل الحياة؟
spk_1
الإنسان. رسالتي بسيطة: لا تقبلوا نتائج الذكاء الاصطناعي كحقيقة مطلقة. ابحثوا وتحققوا بأنفسكم. الذكاء الاصطناعي أداة قوية، نعم، لكنه يحتاج إلى استخدام صحيح، ببيانات صحيحة وأدوات مناسبة. لأن النتيجة لا تكون جيدة إلا إذا كانت المدخلات جيدة. شكراً لك أخ علاء، وشكراً للقناة على الاستضافة، وتحياتي لجميع المستمعين.
SBS ArabicIndependent news and stories connecting you to life in Australia and Arabic-speaking Australians.My Arab IdentityPersonal journeys of Arab-Australian migrants.Get the latest with our exclusive in-language podcasts on your favourite podcast apps.
