هکری که با هوش مصنوعی خود را به جای مارکو روبیو جا زد: شرورانه یا خنده‌دار؟

US president hosts cabinet meeting at White House

مارکو روبیو وزیر امور خارجه ایالات متحده در جلسه کابینه در اتاق کابینه کاخ سفید در واشنگتن دی سی، ایالات متحده آمریکا، ۸ جولای ۲۰۲۵ شرکت Credit: AARON SCHWARTZ / POOL/EPA

وزارت امور خارجه ایالات متحده به دیپلمات‌های این کشور در مورد تلاش‌هایی برای جعل هویت مارکو روبیو وزیر امور خارجه آمریکا و احتمالاً سایر مقامات با استفاده از فناوری مبتنی بر هوش مصنوعی هشدار داده است.


با آنکه امروزه بسیاری از افراد با نمونه های نسبتا واقعی و در برخی موارد بامزه محصولات هوش مصنوعی در شبکه های اجتماعی روبرو می شوند اما این مورد، جدا از همه اینها، قطعاً تیتر خبرها شده است.

 وزارت امور خارجه ایالات متحده به دیپلمات‌های این کشور در مورد تلاش‌هایی برای جعل هویت مارکو روبیو وزیر امور خارجه آمریکا و احتمالاً سایر مقامات با استفاده از فناوری مبتنی بر هوش مصنوعی هشدار داده است. 

این آخرین نمونه فناوری پیشرفته از هدف قرار گرفتن یک چهره ارشد دولت آقای دانلد ترامپ رئیس جمهور آمریکا توسط یک جعل هویت است.

به نظر می رسد باید اکنون به قطعیت گفت که صداهای ساخته شده توسط هوش مصنوعی دیگر مانند یک ربات به نظر نمی‌رسند.

ما خودمان این یکی را تولید کرده‌ایم: (لطفا پادکست این گزارش را بشنوید).

صدای چارلز کاملاً واقعی است. صداهای نفس وجود دارد. او حتی کلمه «اما» یا «but» را مانند یک آدم واقعی تلفظ می‌کند.

اما اینطور نیست. یعنی در واقع این صدا، واقعی نیست.

او توسط یکی از ده‌ها وب‌سایتی تولید شده است که صداهای حرفه‌ای با کیفیت استودیویی را با هزینه ناچیز ارائه می‌دهند، آنهم بدون نیاز به هزینه اجرا یا زمان استودیو.

و اینجاست که همه چیز کمی مبهم می‌شود.

ماه گذشته فردی با استفاده از یک صدای مصنوعی تولید شده برای جعل هویت مارکو روبیو، وزیر امور خارجه ایالات متحده، با سه وزیر و دو مقام آمریکایی تماس گرفت و وانمود کرد که دیپلمات ارشد ایالات متحده است.

و باید گفت که هر کسی می‌تواند این کار را انجام دهد. شما می‌توانید صدای ضبط‌شده‌ای را در یک وب‌سایت آپلود کنید و وب‌سایت آن صدا را شبیه‌سازی می‌کند تا بتوانید هر چیزی که دوست دارید بگویید.

مطمئناً، هنگام آپلود صدای ضبط‌شده، هشدارهایی وجود دارد که از شما می‌پرسند آیا حق انجام این کار را دارید یا خیر.

اما هیچ چیز نمی‌تواند جلوی شما را بگیرد.

در این مورد، فرد مذکور از طریق برنامه پیام‌رسان سیگنال با وزرا، یک فرماندار ایالات متحده و یک عضو کنگره تماس گرفت و حداقل برای دو نفر از آنها پیام صوتی گذاشت و وانمود کرد که آقای روبیو است.

تامی بروس سخنگوی وزارت امور خارجه است او جلسه مطبوعاتی خود را با یک یادداشت طنزآمیز آغاز کرد.

اما او در ادامه گفت که وزارتخانه این شوخی را - اگر شوخی باشد - بسیار جدی می‌گیرد.

او گفت: «وزارت امور خارجه، البته، از این حادثه آگاه است و در حال حاضر در حال نظارت و رسیدگی به این موضوع است. این وزارتخانه مسئولیت خود را برای حفاظت از اطلاعات خود جدی می‌گیرد و به طور مداوم اقداماتی را برای بهبود وضعیت امنیت سایبری وزارتخانه برای جلوگیری از حوادث آینده انجام می‌دهد.»

خانم بروس با اشاره به نگرانی‌های امنیتی، در مورد آنچه که واقعاً در پیام‌ها گفته شده است، گفت محتاط است.

 مشکل این است که کپی کردن صدای یک چهره عمومی مانند مارکو روبیو تقریباً به طرز مسخره‌ای آسان است.

 سینید لاول یک آینده‌نگر و بنیانگذار موسسه ای به نام Waye Talks است؛ سازمانی که هدف آن کمک به مشاغل برای آماده شدن برای آینده کار با نوع پیشرفت‌های تکنولوژیکی است که هر روز شاهد آن هستیم.

او به NBC گفت که برای یک هوش مصنوعی تنها سه ثانیه صدا لازم است تا صدایی اصیل تولید کند.

او گفت: «مارکو روبیو شهرت عمومی زیادی دارد و مصاحبه‌های ویدیویی او از سال‌ها پیش وجود دارد. بنابراین یک هوش مصنوعی که بر اساس تمام این داده‌ها آموزش دیده است، می‌تواند به راحتی صدایی تولید کند که کاملاً از خود مارکو روبیو غیرقابل تشخیص باشد.»

و در حالی که ایده استفاده از صدای واقعی افراد مهم برای فریب دادن مقامات ممکن است سرگرم‌کننده به نظر برسد، این تنها آغاز یک پدیده جدی است که تنها ظاهر آن اینگونه به نظر می رسد.

عمران احمد مدیرعامل مرکز مقابله با نفرت های دیجیتالی است.

 او می گوید که از هوش مصنوعی فقط برای تولید صداهای جعلی استفاده نمی‌شود.

 به گفته او از هوش مصنوعی همچنین برای تولید تصاویر و ویدیوهای جعلی استفاده می‌شود که به نظر می‌رسد رهبران جهان کاری را انجام می‌دهند که نباید انجام دهند.

 او به سی‌بی‌اس گفت که این موضوع در سراسر رسانه‌های اجتماعی وجود دارد. او معتقد است که افراد قدرتمندی پشت آن هستند.

مدیرعامل مرکز مقابله با نفرت های دیجیتالی گفت: «آنها برای از بین بردن اعتماد به نهادها، انتخابات، و خود حقیقت طراحی شده‌اند؛ دقیقاً هدف شی جین‌پینگ، ولادیمیر پوتین، آیت‌الله خامنه‌ای و دیگر کشورهای متخاصم هستند.»

 خانم لاول به همگان هشدار داد و گفت: «ما از نقطه‌ای که چشم یا گوش معمولی می‌توانست بین آنچه ساخته دست بشر است و آنچه نیست، تمایز قائل شود، گذشته‌ایم و مطمئن‌ترین فرض این است که اگر نمی‌توانید به طور کامل تأیید کنید که آیا چیزی ساخته دست هوش مصنوعی است یا خیر، فرض را بر آن قرار دهید که تا زمانی که بتوانید آن تأیید را دریافت کنید، آن محصول ساخته دست هوش مصنوعی است».


برنامه فارسی رادیو اس‌بی‌اس در روزهای شنبه و سه شنبه ساعت ۳ بعد از ظهر از طریق رادیو، به صورت آنلاین، کانال شماره ۳۰۲ تلویزیون‌های دیجیتال و از طریق اپ رایگان SBS Audio قابل دسترس است. برای شنیدن برنامه های زنده و پادکست های ما اپ SBS Audio را از APP Store یا Google Play  دانلود کنید. همچنین می‌ توانید به اس بی اس فارسی از طریق اسپاتیفای، یا اپل پادکستز گوش کنید.

همرسانی کنید
Follow SBS Persian

Download our apps
SBS Audio
SBS On Demand

Listen to our podcasts
Independent news and stories connecting you to life in Australia and Persian-speaking Australians.
Understand the quirky parts of Aussie life.
Get the latest with our exclusive in-language podcasts on your favourite podcast apps.

Watch on SBS
SBS World News

SBS World News

Take a global view with Australia's most comprehensive world news service
هکری که با هوش مصنوعی خود را به جای مارکو روبیو جا زد: شرورانه یا خنده‌دار؟ | SBS Persian