شرکت متا در پی افشای بخشی از دادههای داخلی خود، اجرای یکی از پروژههای مرتبط با آموزش مدلهای هوش مصنوعی را بهطور موقت متوقف کرد. این تصمیم پس از آن اتخاذ شد که مشخص شد اطلاعات حساس و محرمانه کارکنان بهصورت ناخواسته در دسترس طیف گستردهای از کارمندان این شرکت قرار گرفته است.
این اتفاق بار دیگر توجه کارشناسان امنیت سایبری و حریم خصوصی را به نحوه مدیریت دادهها در شرکتهای بزرگ فناوری جلب کرده و پرسشهای تازهای درباره امنیت سامانههای هوش مصنوعی مطرح ساخته است.
پروژه Model Capability Initiative چه بود؟
پروژه Model Capability Initiative (MCI) یکی از برنامههای داخلی متا برای بهبود و آموزش مدلهای هوش مصنوعی به شمار میرود. در قالب این پروژه، دادههایی از نحوه تعامل کارکنان با سیستمهای سازمانی، از جمله فعالیتهای صفحهکلید، حرکات ماوس و برخی اطلاعات عملکردی جمعآوری میشد تا در آموزش و ارزیابی مدلهای هوش مصنوعی مورد استفاده قرار گیرد.
به گفته متا، این برنامه از ابتدا با در نظر گرفتن اصول حفاظت از حریم خصوصی طراحی شده بود، اما رخداد اخیر باعث توقف موقت آن شده است.
افشای دادههای داخلی چگونه رخ داد؟
بر اساس گزارشهای منتشرشده، بخشی از اطلاعات گردآوریشده توسط این پروژه، شامل گفتوگوهای خصوصی کارکنان، اسناد داخلی و دادههای عملکردی، به دلیل یک خطای داخلی در سطح وسیعی در اختیار کارکنان متا قرار گرفت.
اگرچه تاکنون هیچ مدرکی مبنی بر سوءاستفاده از این اطلاعات منتشر نشده است، اما دسترسی ناخواسته به چنین دادههایی نگرانیهایی را درباره نحوه مدیریت اطلاعات حساس در داخل این شرکت ایجاد کرده است.
واکنش رسمی متا
سخنگوی متا با تأیید توقف موقت پروژه اعلام کرد که این تصمیم صرفاً برای انجام بررسیهای فنی و امنیتی اتخاذ شده است.
این شرکت تأکید کرده که تاکنون هیچ نشانهای از استفاده نادرست کارکنان از دادههای افشاشده مشاهده نشده و بررسیهای داخلی برای مشخص شدن علت این رخداد ادامه دارد. متا همچنین اعلام کرده پس از تکمیل ارزیابیهای امنیتی، درباره ادامه یا تغییر ساختار این پروژه تصمیمگیری خواهد کرد.
سابقه چالشهای امنیتی متا
این نخستین بار نیست که متا با مشکلات امنیتی روبهرو میشود. در ماههای گذشته نیز این شرکت چندین رخداد مرتبط با امنیت اطلاعات را تجربه کرده بود.
از جمله این موارد میتوان به انتشار گزارشهایی درباره نشت اطلاعات در یکی از سامانههای هوش مصنوعی متا و همچنین سوءاستفاده برخی مهاجمان سایبری از چتبات خدمات مشتری برای تلاش جهت دسترسی غیرمجاز به حسابهای کاربران اینستاگرام اشاره کرد.
تکرار چنین حوادثی باعث شده کارشناسان نسبت به نحوه مدیریت زیرساختهای امنیتی و فرآیندهای کنترل دسترسی در شرکتهای بزرگ فناوری هشدار دهند.
پیامدهای این رخداد برای صنعت هوش مصنوعی
افشای دادههای داخلی متا تنها یک حادثه امنیتی معمولی نیست، بلکه میتواند پیامدهای گستردهتری برای توسعه هوش مصنوعی داشته باشد. بسیاری از شرکتهای فناوری برای آموزش مدلهای هوش مصنوعی از دادههای داخلی، بازخورد کاربران و اطلاعات عملیاتی استفاده میکنند.
این اتفاق نشان میدهد حتی سازمانهایی با پیشرفتهترین زیرساختهای فناوری نیز در صورت نبود کنترلهای دقیق دسترسی، ممکن است با خطر افشای اطلاعات حساس روبهرو شوند.
توقف موقت پروژه Model Capability Initiative نشان میدهد متا برای جلوگیری از گسترش تبعات این حادثه، بررسی دقیق فرآیندهای امنیتی خود را در اولویت قرار داده است. هرچند تاکنون شواهدی از سوءاستفاده از دادههای افشاشده منتشر نشده، اما این رخداد بار دیگر اهمیت حفاظت از اطلاعات داخلی، مدیریت صحیح مجوزهای دسترسی و رعایت اصول حریم خصوصی را در پروژههای هوش مصنوعی برجسته کرده است.
با توجه به گسترش استفاده از هوش مصنوعی در شرکتهای فناوری، انتظار میرود چنین حوادثی موجب بازنگری جدی در سیاستهای امنیت اطلاعات و شیوه آموزش مدلهای هوش مصنوعی شود.