تحقیقات جدید نشان میدهد چتباتهای هوش مصنوعی مانند ChatGPT و Gemini را میتوان با اطلاعات جعلی و مطالب ساختگی فریب داد و پاسخهای نادرست به کاربران ارائه کرد. گوگل اکنون تلاش میکند با قوانین جدید و مقابله با اسپم، جلوی سوءاستفاده از سیستمهای هوش مصنوعی خود را بگیرد.
در خورشت تکنولوژی میخوانید
- گوگل در حال مقابله با دستکاری هوش مصنوعی خود است
- اختلاف شدید بر سر استفاده از هوش مصنوعی در جشنواره کن
- پایان دعوای حقوقی ایلان ماسک و سم آلتمن بر سر OpenAI
گوگل در حال مقابله با دستکاری هوش مصنوعی خود است
تحقیقات جدید بیبیسی نشان داده که چتباتهای هوش مصنوعی مانند ChatGPT، Gemini و بخش AI Overview گوگل بهراحتی قابل فریب دادن هستند و میتوان با انتشار یک مطلب ساختگی در اینترنت، پاسخهای نادرست و جهتدار به کاربران ارائه کرد.
خبرنگار بیبیسی در آزمایشی ساده توانست تنها با انتشار یک پست در وبسایت شخصیاش، گوگل و ChatGPT را متقاعد کند که او قهرمان مسابقات جهانی هاتداگخوری است.
کارشناسان میگویند این مشکل میتواند پیامدهای خطرناکی در زمینه سلامت، امور مالی و حتی اطلاعات سیاسی داشته باشد، زیرا کاربران معمولاً پاسخهای مستقیم هوش مصنوعی را بدون بررسی بیشتر میپذیرند.
گوگل اکنون قوانین ضداسپم خود را بهروزرسانی کرده و تلاش میکند وبسایتهایی را که قصد دستکاری پاسخهای هوش مصنوعی را دارند، جریمه یا حذف کند؛ هرچند متخصصان معتقدند این نبرد همچنان ادامه خواهد داشت و روشهای جدیدی برای سوءاستفاده از AI پیدا میشود.
اختلاف شدید بر سر استفاده از هوش مصنوعی در جشنواره کن
هوش مصنوعی امسال به یکی از بحثبرانگیزترین موضوعات جشنواره فیلم کن تبدیل شد.
برخی فیلمسازان مطرح مانند دارن آرونوفسکی معتقدند AI میتواند ابزار جدیدی برای گسترش خلاقیت سینمایی باشد، در حالی که افرادی مانند گیرمو دلتورو استفاده از آن را تهدیدی جدی برای هنر فیلمسازی میدانند.
آرونوفسکی در نشست تخصصی «AI for Talent» گفت فناوری هوش مصنوعی قرار نیست جای انسان را بگیرد، بلکه ابزاری کمکی برای ساخت آثار جدید است.
او به پروژههایی اشاره کرد که در آنها با کمک AI توانستهاند بدون استفاده از نوزاد واقعی، صحنههای پیچیده سینمایی تولید کنند.
در مقابل، برخی هنرمندان و اتحادیههای سینمایی نگراناند که استفاده گسترده از AI باعث حذف بازیگران، نویسندگان و نیروهای خلاق انسانی شود.
در همین حال، فیلمسازانی مانند استیون سودربرگ و پیتر جکسون نیز از استفاده محدود و کنترلشده از هوش مصنوعی دفاع کردهاند.
اما منتقدانی مثل ست روگن معتقدند استفاده از AI در نویسندگی و تولید محتوا، کیفیت آثار هنری را نابود میکند و به تولید محتوای بیارزش منجر میشود.
پایان دعوای حقوقی ایلان ماسک و سم آلتمن بر سر OpenAI
پرونده حقوقی جنجالی میان ایلان ماسک و سم آلتمن، مدیرعامل OpenAI، پس از چند هفته دادگاه در آمریکا به پایان رسید و قاضی پرونده به نفع OpenAI رأی داد.
ماسک ادعا کرده بود که OpenAI از مأموریت اولیه غیرانتفاعی خود فاصله گرفته و به شرکتی برای کسب سود میلیاردی تبدیل شده است.
ماسک که یکی از بنیانگذاران اولیه OpenAI بود، میگفت سم آلتمن و مدیران شرکت با تبدیل ساختار OpenAI به مدل تجاری، در واقع «یک خیریه را دزدیدهاند».
او همچنین درخواست غرامتی عظیم و حذف آلتمن از هیئتمدیره شرکت را مطرح کرده بود. با این حال، دادگاه اعلام کرد ماسک شکایت خود را دیر مطرح کرده و پرونده را رد کرد.
در طول دادگاه، برخی مدیران سابق OpenAI نیز علیه سم آلتمن شهادت دادند و او را به ایجاد «هرجومرج مدیریتی» و رفتارهای متناقض متهم کردند.
ایلان ماسک پس از شکست در دادگاه اعلام کرده که به رأی صادرشده اعتراض خواهد کرد.
انفجار عظیم استارشیپ SpaceX پس از پرواز آزمایشی موفق
موشک عظیم Starship V3 متعلق به شرکت SpaceX پس از یک پرواز آزمایشی موفق، در پایان مأموریت خود با انفجاری بزرگ در اقیانوس هند فرود آمد.
این موشک که بزرگترین و قدرتمندترین فضاپیمای ساختهشده تاکنون محسوب میشود، از پایگاه Starbase در تگزاس پرتاب شد و توانست یک پرواز شبهمداری کامل به دور زمین انجام دهد.
در طول پرواز، یکی از موتورهای موشک و سپس یکی از موتورهای فضاپیما از کار افتاد، اما سیستمهای کنترلی توانستند مسیر را اصلاح کرده و مأموریت را ادامه دهند.
استارشیپ همچنین در این آزمایش ۲۲ ماهواره آزمایشی استارلینک را در فضا رها کرد.
اسپیسایکس اعلام کرده انفجار عظیمی که هنگام فرود فضاپیما دیده شد، از قبل برنامهریزی شده بود و هدفی برای بازیابی فضاپیما وجود نداشت.
این آزمایش بخشی از برنامه ناسا برای استفاده از Starship در مأموریتهای ماه پروژه Artemis است؛ مأموریتهایی که ممکن است از سال ۲۰۲۸ آغاز شوند.
