استفاده از مدل‌های زبانی بزرگ مانند Chat GPT به طور فزاینده‌ای رایج می‌شود، اما نگرانی‌های فزاینده‌ای وجود دارد که برخی از چت‌بات‌های هوش مصنوعی ناخواسته روایت‌های اطلاعات نادرست را ترویج می‌دهند.
کارل میلر بنیانگذار مرکز تحلیل رسانه‌های اجتماعی در Demos در بریتانیا است.
او گفت: «این مدل‌ها، این چت‌بات‌ها که به طور فزاینده‌ای برای نوعی بازجویی از اینترنت و ترسیم تصاویری برای مردم جهت یادگیری در مورد جهان مورد استفاده قرار می‌گیرند، بسیار حیاتی هستند و نحوه آموزش آنها و آنچه در نهایت می‌گویند، اساساً نوعی بوته آزمایش از نوع کاملاً جدیدی از نفوذ و قدرت واقعاً قدرتمند و کاملاً نادیده خواهد بود.»
مدل‌های بزرگ زبانی با استفاده از مجموعه داده‌های عظیم برای پیش‌بینی و تولید متن شبیه انسان آموزش داده می‌شوند.
پس از حمله تمام عیار روسیه به اوکراین در سال ۲۰۲۲، برخی از کارشناسان هشدار می‌دهند که بازیگران طرفدار روسیه به طور فزاینده‌ای اینترنت را با اخبار جعلی پر می‌کنند تا چت‌بات‌ها را تحت تأثیر قرار دهند.
ایسیس بلاچز، تحلیلگر آژانس تحقیقاتی مستقر در ایالات متحده، از موسسه ای به نام نیوزگارد، است.
او گفت: «بسیاری از سایت‌های مختلف، یک ادعای دروغین را چندین بار در هر سایت و در سایت‌های مختلف تکرار می‌کنند. و نحوه کار ربات‌های چت هوش مصنوعی و داده‌های آموزشی به این صورت است که آنها به اطلاعات موجود نگاه می‌کنند و این جریان بزرگ اطلاعات را که یک ادعای دروغین را تکرار می‌کند، می‌بینند و از آن اطلاعات می‌گیرند.»
این در حالی است که کارل میلر می گوید این دستکاری مدل‌های زبانی بزرگ به عنوان یک جنگ اطلاعاتی آینده خواهد بود.
شبکه طرفدار کرملین پراودا نمونه‌ای از این است.
این شبکه بیش از شش میلیون مقاله طرفدار روسیه منتشر کرده است که پنج میلیون از آنها به چندین زبان مختلف بازنویسی شده‌اند.
گیوم کاستر مدیر عامل و یکی از بنیانگذاران CheckFirst است.
او گفت: «می‌توانید آن را به عنوان یک ماشین پولشویی برای روایت‌ها و تبلیغات روسی در نظر بگیرید. کاری که آنها انجام می‌دهند این است که مطالب را بازنشر می‌کنند. این مطالب می‌تواند از سازمان‌های رسانه‌ای تحریم‌شده در اتحادیه اروپا، مانند اسپوتنیک یا روسیه امروز باشد. این مطالب می‌تواند از کانال‌های تلگرامی تبلیغاتی شناخته‌شده، از حساب‌های X و غیره باشد.»
هفته گذشته، مایک برجس، مدیر کل سازمان اطلاعات و امنیت استرالیا، فاش کرد که اینفلوئنسرهای طرفدار روسیه در استرالیا توجه این آژانس را جلب کرده‌اند.
برخی از کارشناسان معتقدند که اتکای روزافزون به چت‌بات‌های هوش مصنوعی، نیاز به بررسی دقیق‌تر رسانه‌ها و قانونگذاری و همچنین تمرکز بر مهار اطلاعات نادرست را برجسته می‌کند.
اولیویا شن مدیر برنامه فناوری‌های استراتژیک در مرکز مطالعات ایالات متحده در دانشگاه سیدنی است.
او گفت: «آنچه ما دیده‌ایم، شاید پیشرفت کندتری در تبدیل پادمان‌ها و ضوابط رفتاری و دستورالعمل‌های داوطلبانه به مقررات قابل اجرا از نظر قانونی باشد.»
در همین راستا، به گفته سخنگوی وزارت کشور استرالیا، استراتژی امنیت سایبری این وزارتخانه با هدف ایجاد «ابتکارات جدید برای رفع شکاف‌های موجود در قوانین» تدوین شده است.
همچنین طرحی برای توسعه نخستین استراتژی ملی سواد رسانه‌ای استرالیا ارائه شده است تا «مهارت‌ها و شایستگی‌های کلیدی مورد نیاز استرالیایی‌ها برای عبور از چالش‌ها و فرصت‌های دنیای دیجیتال» را ایجاد کند.
برنامه فارسی رادیو اس‌بی‌اس در روزهای شنبه و سه شنبه ساعت ۳ بعد از ظهر از طریق رادیو، به صورت آنلاین، کانال شماره ۳۰۲ تلویزیون‌های دیجیتال و از طریق اپ رایگان SBS Audio قابل دسترس است. برای شنیدن برنامه های زنده و پادکست های ما اپ SBS Audio را از APP Store یا Google Play دانلود کنید. همچنین می توانید به اس بی اس فارسی از طریق اسپاتیفای، یا اپل پادکستز گوش کنید.
