آیا هوش مصنوعی بیش از حد سریع پیش می‌رود؟

آمودی می‌گوید نگران است که «سیستم های هوش مصنوعی» ، ظرف شش تا ۱۲ ماه آینده بتوانند «کل اینترنت را در اختیار بگیرند.»

سم آلتمن، مدیرعامل OpenAI، و ایلان ماسک، بنیان‌گذار شرکت هوش مصنوعی xAI، ، نیز با ارزیابی آمودی موافقت کرده‌اند. با این حال، دولت دونالد ترامپ تاکنون تلاش کرده مقررات و محدودیت‌های دولتی را در بیشتر صنایع، از جمله صنعت فناوری، کاهش دهد..

داریو آمودی، مدیرعامل Anthropic، از شرکت‌های فعال در حوزه هوش مصنوعی خواسته است سرعت توسعه این فناوری قدرتمند را کاهش دهند؛ چرا که نگرانی‌ها درباره خطرات احتمالی سیستم‌های کامپیوتری «فوق‌هوشمند» در حال افزایش است.

اظهارات آمودی چند روز پس از آن مطرح شد که جیکوب کاکسون، پژوهشگر هوش مصنوعی که برای مدتی در OpenAI فعالیت می‌کرد و سپس به Anthropic پیوست، تصمیم گرفت از این صنعت خارج شود. او شرکت‌های آمریکایی را متهم کرده بود که در رقابت برای ساخت مدل‌هایی که قادر به بهبود عملکرد خودشان هستند، «با جان انسان‌ها قمار می‌کنند».

سم آلتمن و ایلان ماسک نیز خیلی سریع اعلام کردند که با ارزیابی آمودی موافق هستند؛ در شرایطی که فشارها برای افزایش نظارت بر صنعت هوش مصنوعی بیشتر شده است.

آمودی در وب‌سایت شخصی خود نوشت:

«ما باید سرعتی را که در آن قابلیت‌های مدل‌های هوش مصنوعی را افزایش می‌دهیم، کاهش دهیم.»

او اضافه کرد:

«پیشرفت همچنان بسیار سریع به نظر خواهد رسید و ما باید از زمانی که به دست می‌آوریم، عاقلانه استفاده کنیم.»

آمودی گفت:

اگر این فناوری را توسعه ندهیم، ممکن است انسان‌ها از مزایای آن محروم شوند یا این فناوری در اختیار حکومت‌های اقتدارگرا قرار بگیرد. اما از طرف دیگر، توسعه بیش از حد سریع هوش مصنوعی هم می‌تواند خطرناک باشد. ما تلاش کرده‌ایم راهی میانه را در پیش بگیریم.

او افزود که طی چند ماه گذشته به این نتیجه رسیده است که برای مقابله کامل با خطرات هوش مصنوعی، احتیاط بیشتری لازم است.

این اظهارات در ادامه درخواست دیگری از سوی Anthropic در اوایل ماه جون مطرح شده است که خواستار کاهش سرعت یا حتی توقف موقت توسعه برخی فناوری‌های هوش مصنوعی شده بود.

در اواخر ماه جولای نیز سم آلتمن گفته بود که ممکن است توسعه‌دهندگان لازم باشد به صورت داوطلبانه کمی از سرعت توسعه بکاهند تا جامعه فرصت پیدا کند خود را با این تغییرات هماهنگ کند.

ایلان ماسک نیز در شبکه اجتماعی X، در واکنش به صحبت‌های آمودی، به سادگی نوشت:

«داریو درست می‌گوید.»

بیش از هزار کارمند شرکت‌های پیشرو در حوزه هوش مصنوعی، از جمله خود آمودی، نیز طوماری را امضا کرده‌اند که از دولت آمریکا می‌خواهد به صورت هدفمند سرعت توسعه پیشرفته‌ترین سیستم‌های هوش مصنوعی را مدیریت کند.

OpenAI پیش‌تر اعلام کرده بود که در جریان آزمایش، برخی مدل‌های هوش مصنوعی توانسته‌اند از محیط محدود و کنترل‌شده خود خارج شوند، به اینترنت متصل شوند و به Hugging Face، وب‌سایتی که توسعه‌دهندگان برای ذخیره و به اشتراک گذاشتن کد استفاده می‌کنند، نفوذ کنند.

در این حادثه و موارد مشابه، عامل اصلی، «عامل‌های هوش مصنوعی» یا AI Agents معرفی شدند؛ برنامه‌های نرم‌افزاری‌ای که می‌توانند بدون نظارت دائمی انسان، وظایف مختلفی را انجام دهند.

آمودی هشدار داده است که نباید حادثه مربوط به Hugging Face را تنها یک اتفاق استثنایی دانست.

او گفت:

«گروهی از عامل‌های هوش مصنوعی عملاً مانند یک مجموعه بسیار هماهنگ عمل کردند و حملات سایبری را علیه اهدافی انجام دادند که نه از آنها خواسته شده بود به آنها حمله کنند و نه ارتباطی با وظیفه اصلی آنها داشت.»

آمودی افزود:

«با توجه به سرعت فزاینده پیشرفت قابلیت‌های هوش مصنوعی، نگرانی من این است که ظرف شش تا ۱۲ ماه آینده، چنین مجموعه‌ای از عامل‌های هوش مصنوعی بتواند کل اینترنت را در اختیار بگیرد.»

آمودی اعلام کرده است که شرکت Anthropic به گروهی از ارزیابان مستقل و شخص ثالث دسترسی مشابه کارکنان شرکت خواهد داد تا بررسی کنند آیا این شرکت به استانداردها و رویه‌های ایمنی پایبند است یا خیر.

او از سایر شرکت‌های هوش مصنوعی نیز خواسته است از این اقدام پیروی کنند.

سم آلتمن نیز گفته است که OpenAI حاضر است از نظارت خارجی مشابهی استفاده کند و اضافه کرده که «به‌زودی اطلاعات بیشتری» در این زمینه ارائه خواهد کرد.

آمودی همچنین پیشنهاد کرده است شرکت‌های هوش مصنوعی با یکدیگر همکاری کنند تا استانداردهای مشترکی برای ایمنی این فناوری ایجاد شود.

او همچنین از نوعی همکاری میان دولت‌ها در زمینه ایمنی هوش مصنوعی حمایت کرده است.

در اوایل ماه آگوست ، دولت آمریکا یک فرآیند داوطلبانه برای بررسی امنیت مدل‌های پیشرفته هوش مصنوعی پیش از عرضه آنها ایجاد کرد؛ با این حال، هنوز مشخص نیست این برنامه دقیقاً چگونه اجرا خواهد شد.

برخی کارشناسان صنعت فناوری نیز درباره میزان اثربخشی این برنامه تردید دارند، زیرا دولت دونالد ترامپ تاکنون در بسیاری از صنایع، از جمله فناوری، رویکردی با مقررات کمتر داشته است.

سم آلتمن همچنین گفته است که شرکت OpenAI در سال ۲۰۲۶ سهام خود را به صورت عمومی عرضه نخواهد کرد.

آلتمن در مصاحبه‌ای با مجله Fortune گفت با توجه به نگرانی‌های موجود درباره ایمنی هوش مصنوعی، اکنون زمان مناسبی برای عرضه عمومی سهام OpenAI نیست.

او گفت:

«با توجه به تمام اتفاقاتی که در زمینه ایمنی در حال رخ دادن است، فکر می‌کنم اکنون زمان مناسبی برای ورود به بورس نیست و ما نیز تحت فشار قرار نداریم که این کار را انجام دهیم.»

آلتمن اضافه کرد که OpenAI و سایر شرکت‌های بزرگ هوش مصنوعی باید روی مسائل مهمی مانند ایمنی و هماهنگی سیستم‌های هوش مصنوعی با ارزش‌ها و نیازهای انسانی تمرکز کنند و بررسی کنند که صنعت و دولت‌ها چگونه می‌توانند با یکدیگر همکاری کنند.

بر اساس گزارش Fortune، آلتمن همچنین اشاره کرده است که OpenAI و سایر شرکت‌های پیشرو در زمینه هوش مصنوعی ممکن است به‌زودی توافقی برای کاهش سرعت توسعه هوش مصنوعی و همکاری در زمینه خطرات ایمنی اعلام کنند.

با این حال، نگرانی‌های ایمنی فعلاً برنامه Anthropic برای عرضه عمومی سهام این شرکت را متوقف نکرده است.

بر اساس گزارش رویترز، انتظار می‌رود Anthropic در صورت فراهم بودن شرایط، از اواسط ماه اکتبر بازاریابی برای عرضه اولیه سهام خود را آغاز کند و پیش از انتخابات میان‌دوره‌ای آمریکا در ماه نوامبر وارد بازار سهام شود.

اپل روز چهارشنبه در رویداد «Surprise and Shine»، قابلیت جدیدی برای یادداشت‌برداری از جلسات و مکالمات معرفی کرد که در ساعت‌های Apple Watch Series 12 و Apple Watch Ultra 4 ارائه می‌شود.

این قابلیت یکی از مجموعه ویژگی‌های جدید مبتنی بر هوش مصنوعی صوتی است که می‌توانند صداهای اطراف کاربر را از طریق اپل واچ دریافت و پردازش کنند.

این قابلیت که Siri Recap نام دارد، با استفاده از قابلیت شنیدن صدای محیط، نکات کلی و مهم مکالمات را ثبت می‌کند. به گفته اپل، Apple Intelligence به‌طور خودکار مکالمه را خلاصه می‌کند، نکات مهم آن را استخراج می‌کند و یک عنوان برای آن در نظر می‌گیرد؛ سپس کاربر می‌تواند این اطلاعات را در اپلیکیشن Siri مشاهده کند.

اپل می‌گوید کاربر می‌تواند انتخاب کند که این قابلیت همیشه فعال باشد، برای آن زمان‌بندی مشخصی تعیین کند یا آن را به‌طور کامل خاموش کند.

قابلیت یادداشت‌برداری تنها ویژگی صوتی جدیدی نیست که اپل برای اپل واچ معرفی کرده است. مجموعه قابلیت‌های جدید صوتی اپل شامل Shazam نیز می‌شود که می‌تواند آهنگ‌ها را به‌سرعت شناسایی کند. به این ترتیب، اپل سرانجام قابلیتی مشابه ویژگی Now Playing گوگل ارائه کرده است.

اپل واچ همچنین می‌تواند صداهای بلندی مانند آژیر، آلارم، زنگ در یا گریه نوزاد را تشخیص دهد و به کاربر هشدار دهد.

اپل همچنین قابلیت دیگری به نام Live Rewind معرفی کرده است. با این قابلیت، کاربر می‌تواند با دوبار فشار دادن دکمه Digital Crown، پانزده ثانیه از مکالمه قبلی خود را مرور کند.

اپل تأکید کرده که این قابلیت‌ها صدای ضبط‌شده را ذخیره نمی‌کنند و فایل صوتی اصلی نیز در دسترس نیست. همچنین، قابلیت Siri Recap افراد حاضر در مکالمه را از یکدیگر تشخیص نمی‌دهد.

کاربران می‌توانند خلاصه مکالمات تهیه‌شده با قابلیت Live Rewind را مشاهده کنند. اپل می‌گوید این اطلاعات به‌صورت رمزگذاری‌شده و امن نگهداری می‌شوند و افراد غیرمجاز به آن‌ها دسترسی نخواهند داشت.

با وجود این تدابیر امنیتی، قابلیت‌هایی که به‌طور دائمی به صداهای محیط گوش می‌دهند، احتمالاً نگرانی‌هایی درباره حریم خصوصی ایجاد خواهند کرد؛ چرا که Siri Recap همچنان ممکن است اطلاعات حساس موجود در مکالمات را دریافت کرده و خلاصه‌ای از آنها را ثبت کند.

از نظر قابلیت‌های یادداشت‌برداری، Siri Recap شباهت زیادی به ابزارهای دیگری مانند Granola و Circleback دارد که آنها نیز اپلیکیشن‌هایی برای Apple Watch ارائه کرده‌اند.

بر اساس گزارشی از ABC News Australia، دولت استرالیا در حال بررسی قوانین جدیدی است که به کاربران شبکه‌های اجتماعی اجازه می‌دهد انتخاب کنند آیا می‌خواهند الگوریتم، مطالبی را که در صفحه‌شان می‌بینند، بر اساس علایق و رفتارشان انتخاب و پیشنهاد کند یا نه.

الگوریتم‌های شبکه‌های اجتماعی با استفاده از هوش مصنوعی و بررسی رفتار کاربران، مطالبی را پیشنهاد می‌کنند که احتمال بیشتری دارد توجه آنها را جلب کند و باعث شود مدت بیشتری در شبکه اجتماعی بمانند.

به گفته تام لِوِر، استاد مطالعات اینترنت در دانشگاه کرتین، این سیستم‌ها گاهی مطالبی را بیشتر نمایش می‌دهند که واکنش شدیدتری در کاربر ایجاد می‌کنند، حتی اگر این واکنش مثبت نباشد.

منتقدان معتقدند الگوریتم‌ها ممکن است کاربران را به سمت مطالب افراطی‌تر و تئوری‌های توطئه سوق دهند و آنها را در نوعی «اتاق پژواک» قرار دهند؛ یعنی کاربر بیشتر مطالبی را ببیند که دیدگاه‌های قبلی خودش را تأیید می‌کنند.

بلینـدا بارنت، متخصص رسانه و ارتباطات در دانشگاه سوینبرن، می‌گوید پلتفرم‌هایی مانند تیک‌تاک در نگه داشتن کاربران برای مدت طولانی بسیار موفق هستند، زیرا الگوریتم آنها دائماً مطالب جدید و جذاب پیشنهاد می‌کند.

اگر الگوریتم خاموش شود، یکی از گزینه‌ها می‌تواند بازگشت به یک صفحه زمانی باشد؛ یعنی کاربران فقط مطالب حساب‌هایی را که خودشان دنبال می‌کنند، به ترتیب زمان انتشار ببینند.

دانیل انگس، مدیر مرکز تحقیقات رسانه‌های دیجیتال در دانشگاه فناوری کوئینزلند، می‌گوید این روش می‌تواند کنترل بیشتری به خود کاربر بدهد.

از طرف دیگر، رشینا هودا، استاد مهندسی نرم‌افزار در دانشگاه موناش، معتقد است امکان خروج از الگوریتم می‌تواند به کاهش «اسکرول بی‌پایان» و استفاده بی‌هدف از شبکه‌های اجتماعی کمک کند.

اما یک نگرانی دیگر هم وجود دارد: ممکن است شرکت‌های فناوری صفحه‌های بدون الگوریتم را عمداً کم‌امکانات‌تر یا خسته‌کننده‌تر طراحی کنند تا کاربران دوباره به صفحه‌های الگوریتمی برگردند. تام لِوِر از این احتمال با عنوان «طراحی اعتراضی» یاد می‌کند.

در حال حاضر نیز برخی شبکه‌های اجتماعی گزینه‌هایی برای کنترل مطالب پیشنهادی در اختیار کاربران قرار داده‌اند، اما این گزینه ها معمولاً در بخش‌های مختلف تنظیمات پنهان هستند.

در نهایت، پرسش اصلی این است:

آیا می‌خواهیم یک الگوریتم تصمیم بگیرد چه چیزی ببینیم، یا ترجیح می‌دهیم خودمان کنترل بیشتری روی مطالبی که در شبکه‌های اجتماعی می‌بینیم داشته باشیم؟

برنامه فارسی رادیو اس‌بی‌اس در روزهای شنبه و سه شنبه ساعت ۳ بعد از ظهر از طریق رادیو، به صورت آنلاین، کانال شماره ۳۰۲ تلویزیون‌های دیجیتال و از طریق اپ رایگان SBS Audio قابل دسترس است. برای شنیدن برنامه های زنده و پادکست های ما اپ SBS Audio را از APP Store یا Google Play دانلود کنید. همچنین می‌ توانید به اس بی اس فارسی از طریق اسپاتیفای، یا اپل پادکستز گوش کنید.