جفروگ ۲۲ صدمه‌پذیری در ۱۵ پروژه یادگیری ماشینی متن‌باز کشف کرد

تحلیل‌های جدید نشان می‌دهد که سیستم‌های یادگیری ماشینی متن‌باز در برابر تهدیدات امنیتی بیش‌تر از سیستم‌های بالغ‌تر مانند یا سرور‌های وب قرار دارند. با گسترش کاربرد یادگیری ماشینی در صنایع گوناگون، ایمن‌سازی این سیستم‌ها به اولویت حیاتی تبدیل شده است زیرا صدمه‌پذیری‌ها می‌توانند منجر به دسترسی غیر‌مجاز، نقض داده‌ها و اختلال در عملیات شوند.

به گزارش سرویس امنیت رسانه تکنا به نقل از جفروگ، پروژه‌هایی نظیر شاهد افزایش صدمه‌پذیری‌های بحرانی بوده‌اند. در ماه‌های اخیر جفروگ ۲۲ صدمه‌پذیری در ۱۵ پروژه متن‌باز یادگیری ماشینی شناسایی کرده است. این نقص‌ها در دو دسته اصلی قرار می‌گیرند تهدید‌هایی که مؤلفه‌های سمت سرور را هدف می‌گذارند و خطرات افزایش امتیازات در چارچوب‌های یادگیری ماشینی.

صدمه‌پذیری‌های شناسایی‌شده مؤلفه‌های کلیدی که در گردش کار‌های یادگیری ماشینی رایج هستند را تحت تأثیر قرار می‌دهند. این موضوع به مهاجمان اجازه می‌دهد تا از ابزار‌هایی که به دلیل انعطاف‌پذیری توسط متخصصان مورد اعتماد قرار گرفته‌اند، سوءاستفاده کنند و به فایل‌های حساس دسترسی غیر‌مجاز پیدا کنند یا امتیازات خود را در محیط‌های یادگیری ماشینی ارتقا دهند.

یکی از موارد برجسته مربوط به، ابزاری محبوب از برای ردیابی و تجسم معیار‌های مدل است. صدمه‌پذیری پیمایش دایرکتوری WANDB به کاربران با امتیازات پایین امکان می‌دهد تا به فایل‌های دلخواه در سراسر سیستم فایل دسترسی پیدا کنند. این نقص ناشی از اعتبار‌سنجی نادرست ورودی در زمان مدیریت مسیر‌های فایل است و می‌تواند منجر به افشای کلید‌های API ادمین و سایر اطلاعات محرمانه شود.

، ابزاری برای مدیریت خط لوله، نیز تحت تأثیر یک صدمه‌پذیری بحرانی قرار دارد که سیستم کنترل دسترسی آن را به خطر می‌اندازد. این نقص به مهاجمان با حداقل امتیازات اجازه می‌دهد تا مجوز‌های خود را در افزایش دهند و در نتیجه به اطلاعات محدود شده از جمله اسرار محرمانه یا فایل‌های مدل دسترسی پیدا کنند. افزایش امتیازات می‌تواند به دستکاری خط لوله‌ها، جعل داده‌های مدل و دسترسی به داده‌های عملیاتی حساس منجر شود.

صدمه‌پذیری جدی دیگری در پایگاه داده با شناسه کشف شده است. این نقص از نوع تزریق فرمان است و به مهاجمان امکان می‌دهد با سوءاستفاده از نحوه مدیریت واردات مجموعه داده‌های خارجی، دستورات دلخواه را اجرا کنند. به دلیل پاک‌سازی نادرست فرمان، اجرای کد از راه دور امکان‌پذیر شده و امنیت پایگاه داده و برنامه‌های متصل را به خطر می‌اندازد.

در، ابزاری برای تشکیل و تجسم پرس‌و‌جوی SQL با زبان طبیعی، صدمه‌پذیری تزریق اعلان با شناسه یافت شده است. این نقص به مهاجمان اجازه می‌دهد کد مخرب را در اعلان‌های SQL تزریق کنند که ابزار آن را پردازش می‌کند. مهاجم می‌تواند ویژگی تجسم SQL به نمودار را هدف قرار دهد، تجسم‌ها را دستکاری کند، تزریق SQL انجام دهد یا داده‌ها را استخراج کند.

، ابزاری برای مدیریت خط لوله‌های داده، دارای چندین صدمه‌پذیری از جمله دسترسی غیر‌مجاز به پوسته، نشت فایل‌های دلخواه و اعتبار‌سنجی ضعیف مسیر است. این مسائل به مهاجمان امکان کنترل خط لوله‌های داده، افشای پیکر‌بندی‌های حساس و اجرای دستورات مخرب را می‌دهد. ترکیب این نقص‌ها خطر افزایش امتیازات و نقض یکپارچگی داده‌ها را تشدید می‌کند.

با کسب دسترسی ادمین به پایگاه داده‌ها یا رجیس‌تری‌های یادگیری ماشینی، مهاجمان می‌توانند کد مخرب را در مدل‌ها جا‌سازی کنند و دروازه‌های پشتی ایجاد کنند که هنگام بارگذاری مدل فعال می‌شوند. این کار فرآیند‌های پایین‌دستی را به خطر می‌اندازد زیرا مدل‌ها توسط تیم‌های مختلف و خط لوله‌های CI/CD استفاده می‌شوند. مهاجمان می‌توانند داده‌های حساس را استخراج کنند یا حملات مسموم‌سازی مدل را برای کاهش کارکرد یا دستکاری خروجی‌ها اجرا کنند.

یافته‌های جفروگ یک شکاف عملیاتی در امنیت را برجسته می‌کند. بسیاری از سازمان‌ها ادغام قوی روش‌های امنیتی AI/ML با استراتژی‌های گسترده‌تر امنیت سایبری ندارند که این امر نقاط کور بالقوه ایجاد می‌کند. با توجه به پیشرفت‌های سریع صنعت در حوزه ML و، محافظت از چارچوب‌ها، مجموعه داده‌ها و مدل‌هایی که این نوآوری‌ها را تقویت می‌کنند، از اهمیت بالایی برخوردار است.