آنچه در مورد هک مدیکر توسط عامل «اوپن ای آی» می‌دانیم و نمی‌دانیم

یک عامل هوش مصنوعی OpenAI به وب‌سایت مدیکر نفوذ کرد و اطلاع‌رسانی این موضوع به دولت ماه‌ها به طول انجامید.

ریچارد مارلز، معاون نخست‌وزیر استرالیا، روز پنج‌شنبه تأیید کرد که این عامل در ماه جون به درگاه مدیکر دسترسی غیرمجاز پیدا کرده است.

دولت تا ۱۰ سپتامبر از این اتفاق مطلع نشده بود.

آقای مارلز گفت این حادثه «بسیار جدی» بوده، اما تأثیر آن «نسبتاً محدود» بوده است.

اکنون یک کارگروه ویژه برای بررسی موضوع تشکیل شده، اما پرسش‌های مهمی همچنان بی‌پاسخ مانده‌اند: این عامل چگونه وارد سیستم شد؟ چرا اعلام هشدار این‌قدر طول کشید؟ و چه مقررات جدیدی ممکن است در آینده وضع شوند؟

عامل هوش مصنوعی OpenAI چگونه به درگاه مدیکر نفوذ کرد؟

یک عامل هوش مصنوعی OpenAI در تاریخ ۱۸ جون، هنگام تحقیق درباره هزینه‌های عمومی دارو، به «سامانه گزارش‌دهی آمار مدیکر» دسترسی پیدا کرد. این سامانه یک درگاه عمومی است که داده‌ها و آمارهای مختلف را در خود جای داده است.

دولت فدرال همچنین از سه سامانه دیگر که ممکن است تحت تأثیر این رخداد قرار گرفته باشند آگاه است:

• مؤسسه سلامت و رفاه استرالیا
• اداره آمار و پژوهش جرایم ایالت نیو ساوت ولز
• وزارت بهداشت ایالت ویکتوریا

این حادثه زمانی رخ داد که مدل هوش مصنوعی در حال آموزش بود. به گفته ریچارد مارلز، این عامل «از حصار عبور کرد» و به بخشی از درگاه مدیکر دسترسی یافت.

شرکت OpenAI به دولت اعلام کرد که در ماه آگوست از این حادثه آگاه شده و در ۱۰ سپتامبر از طریق ایمیلی به صندوق ورودی سازمان Services Australia این موضوع را اطلاع داده است.

آقای مارلز گفت وزیران کمتر از یک هفته بود که از این موضوع مطلع شده بودند و پیش از اطلاع‌رسانی عمومی می‌خواستند میزان تأثیر آن را ارزیابی کنند.

آیا این رخداد باعث افشا اطلاعات شخصی شد؟

هرچند آقای مارلز این رویداد را «بسیار جدی» توصیف کرد، اما تأکید داشت که تأثیر آن «نسبتاً محدود» بوده است.

او گفت: «ما درباره آمارهای تجمیع‌شده پزشکی صحبت می‌کنیم. هیچ داده پزشکی مربوط به افراد در اینجا مورد دسترسی قرار نگرفته است.» او همچنین افزود که خود سامانه اصلی مدیکر مورد نفوذ قرار نگرفته است.

در همین حال، کیتی گالاگر، وزیر خدمات دولتی، توضیح داد که این درگاه یک سامانه مستقل و قدیمی است که چند دهه قدمت دارد و عمدتاً توسط پژوهشگران و دانشگاهیان استفاده می‌شود.

او گفت: «این سامانه به هیچ وجه به فرآیندهای مدیکر مانند ثبت درخواست‌ها، پرداخت‌ها یا پردازش اطلاعات افراد مرتبط نیست. بنابراین کاملاً متفاوت از سامانه اصلی مدیکر است.»

خانم گالاگر افزود که «تا این لحظه» هیچ اطلاعات شخصی درگیر نبوده است. همچنین داده‌ها به پلتفرم امن‌تر data.gov.au منتقل شده‌اند و این درگاه فعلاً از دسترس خارج شده است.

دولت یک کارگروه اضطراری با مشارکت نهادهای زیر تشکیل داده است:

• اداره سیگنال‌های استرالیا (ASD)
• مؤسسه ایمنی هوش مصنوعی
• دفتر هوش مصنوعی

این نهادها قرار است حادثه، امنیت شبکه‌های دولتی و چارچوب‌های قانونی موجود را بررسی کنند.

دولت چه زمانی از این نفوذ مطلع شد؟

یکی از بحث‌های اصلی، زمان‌بندی وقوع حادثه، اطلاع دولت از آن و انتشار عمومی خبر است.

شرکت OpenAI در ماه آگوست و در جریان بررسی چند عامل هوش مصنوعی که از کنترل خارج شده بودند، این نفوذ را کشف کرد.

این شرکت در ۱۰ سپتامبر با ارسال ایمیلی به یک صندوق ورودی عمومی در Services Australia دولت استرالیا را مطلع کرد.

سازمان Services Australia این پیام را در ۱۱ سپتامبر دریافت کرد و پس از اطمینان از معتبر بودن اطلاعیه، در ۱۵ سپتامبر موضوع را به مرکز امنیت سایبری ASD گزارش داد.

کیتی گالاگر در ۱۷ سپتامبر در جریان موضوع قرار گرفت و او، ریچارد مارلز و تونی برک (وزیر کشور) در آخر هفته ۱۹ و ۲۰ سپتامبر چندین جلسه درباره این موضوع با Services Australia و ASD برگزار کردند.

روز چهارشنبه، آنتونی آلبانیزی، نخست‌وزیر استرالیا، در نیویورک با سم آلتمن، مدیرعامل OpenAI، درباره این حادثه گفت‌وگو کرد و نارضایتی خود را از تأخیر طولانی در اطلاع‌رسانی و نحوه انجام آن ابراز داشت.

چه پرسش‌هایی همچنان بی‌پاسخ مانده‌اند؟

هنوز مشخص نیست عامل هوش مصنوعی دقیقاً چگونه توانسته وارد این سامانه شود.

دومینیک میگر، پژوهشگر مدرسه کرافورد در دانشگاه ملی استرالیا (ANU)، گفته است که مایل است جزئیات فنی نفوذ مشخص شود و گزارشی فنی از سوی ASD منتشر شود، نه صرفاً توضیحات دولت.

همچنین هنوز دقیقاً معلوم نیست چه اطلاعاتی مورد دسترسی قرار گرفته‌اند. دولت می‌گوید فقط آمارهای تجمیع‌شده و غیرحساس بوده‌اند، اما آةقای مارلز اذعان کرده است: «هنوز همه چیز را نمی‌دانیم.»همچنین روشن نیست چرا تقریباً سه ماه طول کشید تا موضوع علنی شود. مارلز گفت مشخص نیست که آیا سم آلتمن هنگام دیدار اواخر اوت با مقامات استرالیایی از این حادثه مطلع بوده یا خیر و این موضوع در آن دیدار مطرح نشده است.

آیا قانونی نقض شده است؟

هنوز مشخص نیست که آیا هیچ قانونی شکسته شده است یا نه؛ موضوعی که کارگروه ویژه در حال بررسی آن است.

توبی والش، دانشمند ارشد مؤسسه هوش مصنوعی و استاد هوش مصنوعی دانشگاه UNSW، معتقد است OpenAI باید تحت پیگرد قانونی قرار گیرد.

او به SBS News گفت: «OpenAI مدیریت بسیار ضعیفی بر عوامل هوش مصنوعی خود داشته و شاید هنوز هم دارد. به نظر من باید این شرکت تحت پیگرد قرار گیرد. اگر انسان‌ها چنین هکی انجام می‌دادند، آن‌ها را محاکمه می‌کردیم.»

اما دومینیک میگر معتقد است نگاه کیفری به موضوع مناسب نیست، زیرا هیچ قصد مجرمانه‌ای وجود نداشته و این حادثه بیشتر شبیه یک مخاطره صنعتی یا ایمنی محیط کار است.

او پیشنهاد کرده است مقرراتی مشابه قوانین ایمنی محل کار وضع شوند، از جمله:

• الزام به گزارش فوری حوادث
• تعیین مسئولیت قانونی برای مدیران شرکت‌ها
• صدور مجوز برای آزمایشگاه‌های پرخطر هوش مصنوعی

سناتور دیوید پوکاک این حادثه را «نگران‌کننده اما در نهایت قابل پیش‌بینی» توصیف کرد و گفت این رویداد نشان می‌دهد دولت در ایجاد سازوکارهای حفاظتی برای استفاده از هوش مصنوعی در محیط‌های پرخطر کند عمل کرده است.

جاستین آلن از شرکت امنیت سایبری Huntress نیز گفت قوانین به‌تنهایی کافی نیستند: «نمی‌توان قانونی را علیه چیزی اجرا کرد که خودتان قادر به شناسایی آن نیستید.»او افزود که مقررات باید همراه با سرمایه‌گذاری واقعی در توانایی‌های شناسایی و تشخیص تهدیدها باشند.

میگر در پایان گفت پرسش مهم‌تر این است که آیا چنین حوادثی در آینده رایج خواهند شد و چگونه باید مهار شوند.

او گفت: «به نظر می‌رسد این اتفاقات هر روز بیشتر رخ می‌دهند.»

برنامه فارسی رادیو اس‌بی‌اس در روزهای شنبه و سه شنبه ساعت ۳ بعد از ظهر از طریق رادیو، به صورت آنلاین، کانال شماره ۳۰۲ تلویزیون‌های دیجیتال و از طریق اپ رایگان SBS Audio قابل دسترس است. برای شنیدن برنامه های زنده و پادکست های ما اپ SBS Audioرا از APP Store یا Google Play دانلود کنید. همچنین می‌توانید به اس بی اس فارسی از طریق اسپاتیفای، اپل پادکستز یا گوگل پادکستز گوش کنید.