>> سوءاستفاده هکرها از هوش مصنوعی کلود برای اجرای حملات سایبری و دزدی داده >> شرکت آنتروپیک

>> سوءاستفاده هکرها از هوش مصنوعی کلود برای اجرای حملات سایبری و دزدی داده >> شرکت آنتروپیک، یکی از پیشروان صنعت هوش مصنوعی، اخیراً هشدار جدیای مبنی بر سوءاستفاده مخرب از مدل زبانی خود به نام کلود منتشر کرده است. بر اساس گزارش اطلاعات تهدیدات این شرکت، گروههای هکری توانستهاند از قابلیتهای پیشرفته این چتبات برای ارتقای سطح، سرعت و موفقیت حملات سایبری خود بهرهبرداری کنند.

تبدیل هوش مصنوعی به ابزار دستیار مجرمان سایبری تحلیلهای امنیتی نشان میدهد که هوش مصنوعی دیگر تنها یک ابزار جانبی نیست، بلکه در تمام مراحل زنجیره حمله سایبری نقش فعال دارد. هکرها از کلود برای خودکارسازی فرآیندهای پیچیده نظیر شناسایی نقاط ضعف، نفوذ به شبکهها و استخراج دادههای حساس در مقیاس وسیع استفاده میکنند.

یک کمپین مخرب به نام هک ارتعاشی است.

این اصطلاح از مفهوم کدنویسی ارتعاشی الهام گرفته شده که در آن توسعهدهندگان به شدت بر کدهای تولیدشده توسط هوش مصنوعی تکیه میکنند. مهاجمان از محیط اجرای کد کلود برای اتوماسیون کامل چرخه حمله — از کشف اهداف تا دزدی اطلاعات و نفوذ جانبی — سوءاستفاده کردهاند. این حمله تنها در ماه گذشته موفق شده است حداقل ۱۷ سازمان مجزا در بخشهای دولتی، بهداشت، خدمات اورژانس و موسسات مذهبی را هدف قرار دهد.

دزدیده شده شامل طیف وسیعی از اطلاعات حساس نظیر پروندههای پزشکی، سوابق مالی، اعتبارنامههای دولتی و اطلاعات هویتی شهروندان میشود.

تقاضاهای باج در برخی موارد از سقف ۵۰۰ هزار دلار فراتر رفته است که نشاندهنده سودآوری بالا و جسارت مهاجمان در این مدل جدید حملات است. تحلیل دادههای دزدیده شده با کمک هوش مصنوعی بیش از اجرای حمله، هکرها از هوش مصنوعی برای پردازش، دستهبندی و تحلیل حجم عظیم دادههای بدستآمده استفاده میکنند.

این قابلیت به آنها امکان میدهد تا به سرعت داراییهای باارزش را شناسایی، برای حملات مهندسی اجتماعی هدفمندتر استفاده کنند یا دادهها را در بازارهای زیرزمینی اینترنت بفروشند. در نتیجه، هوش مصنوعی مانعهای ورودی برای جرایم سایبری را به شدت کاهش داده و به افراد با مهارت فنی پایینتر امکان اجرای حملات پیشرفته را میدهد.

ضرورت تقویت دفاعهای امنیتی در عصر هوش مصنوعی این گزارش جرس خطری است برای سازمانها و کاربران تا استراتژیهای امنیتی خود را در برابر تهدیدات هوشمندانه بازنگری کنند. پیادهسازی احراز هویت چند عاملی (MFA)، نظارت بر ترافیک شبکه برای شناسایی الگوهای ناشی از خودکارسازی، و آموزش پرسنل در برابر حملات فیشینگ تقویتشده با هوش مصنوعی، از اقدامات ضروری برای مقابله با این موج جدید تهدیدات محسوب میشوند.

>> راهکارهای پیشگیرانه برای سازمانها در برابر حملات مبتنی بر هوش مصنوعی با توجه به پیچیدگی روزافزون حملات سایبری که با کمک هوش مصنوعی اجرا میشوند، رویکردهای امنیتی سنتی دیگر پاسخگو نیستند. سازمانها باید به سمت مدلهای امنیتی پیشگیرانه و هوشمند حرکت کنند که قادر به شناسایی و خنثیسازی تهدیدات در لحظه باشند.

استفاده از سیستمهای تشخیص نفوذ مبتنی بر رفتار به جای امضاهای سنتی، میتواند الگوهای ناشی از خودکارسازی هوش مصنوعی را شناسایی کند. پیادهسازی معماری اعتماد صفر معماری اعتماد صفر که بر پایه اصل هرگز اعتماد نکن، همیشه تأیید کن استوار است، یکی از موثرترین استراتژیها برای مقابله با حملات جانبی هکرها در شبکه محسوب میشود.

در این مدل، هیچ کاربر، دستگاه یا برنامهای به طور پیشفرض قابل اعتماد نیست، حتی اگر در داخل حاشیه شبکه سازمانی قرار داشته باشد. تقسیمبندی شبکه، احراز هویت مداوم و کنترل دسترسی بر اساس کمترین امتیاز از ارکان اصلی این معماری هستند که میتواند از گسترش حملات هک ارتعاشی در محیطهای داخلی جلوگیری کند.

نظارت بر ترافیک خروجی و پیشگیری از از دست رفتن داده (DLP) از آنجا که هدف اصلی مهاجمان در حملات اخیر سرقت حجم عظیم دادهها بوده است، استقرار راهکارهای پیشگیری از از دست رفتن داده حیاتی است. این سیستمها باید قادر باشند ترافیک خروجی غیرمعمول، آپلود حجم بالا به مقاصد ناشناخته و فشردهسازی یا رمزنگاری ناگهانی فایلها را شناسایی و مسدود کنند.

ادغام DLP با هوش مصنوعی برای کاهش مثبتهای کاذب و افزایش دقت تشخیص، لزومی است نه گزینهای. نقش تقنینی و همکاری بینالمللی در مهار سوءاستفاده از هوش مصنوعی مبارزه با سوءاستفاده از هوش مصنوعی در جرایم سایبری فراتر از توانایی هر سازمان یا کشور منفرد است.

گزارش آنتروپیک تأکید میکند که نیاز به چارچوبهای قانونی بینالمللی، استانداردهای شفافیت برای توسعهدهندگان مدلهای بزرگ زبان (LLM) و مکانیزمهای اشتراکگذاری اطلاعات تهدید بین بخشهای عمومی و خصوصی، بیش از پیش احساس میشود. مسئولیت توسعهدهندگان مدلهای هوش مصنوعی شرکتهایی مانند آنتروپیک، اوپنایآی (OpenAI) و گوگل (Google) بار بزرگی بر دوش دارند. آنها باید مکانیزمهای محافظتی قویتری در لایه مدل پیادهسازی کنند.

این موارد شامل فیلترهای امنیتی پیشرفته برای جلوگیری از تولید کد مخرب، محدودیت در دسترسی به محیط اجرای کد برای کاربران ناشناس، و لاگگذاری کامل و غیرقابل تغییر از درخواستهای مشکوک برای اهداف بازرسی جنایی است. شفافیت در گزارشدهی درباره نحوه سوءاستفاده از مدلها، مانند گزارش اخیر آنتروپیک، باید به یک استاندارد صنعتی تبدیل شود.

قوانین مقابله با جرایم سایبری و باجافزاری قوانین ملی باید بهروزرسانی شوند تا پوششدهنده جرایم ارتکابی با کمک هوش مصنوعی باشند. تجریم پرداخت باج میتواند انگیزه مهاجمان را کاهش دهد، هرچند این موضوع بحثهای حقوقی و اخلاقی پیچیدهای دارد. همچنین، مقرراتی برای الزام سازمانهای حیاتی به گزارش بلافاصله نقض امنیت و رعایت حداقل استانداردهای امنیتی، میتواند سطح کلی امنیت سایبری را بالا ببرد.

آینده تهدیدات هوش مصنوعی تهاجمی در برابر هوش مصنوعی دفاعی ما در حال ورود به یک عصر جدید از جنگ سایبری هستیم که در آن هوش مصنوعی تهاجمی ( AI) در برابر هوش مصنوعی دفاعی ( AI) قرار میگیرد. هکرها از مدلهای زبان بزرگ برای تولید کدهای اکسپلویت صفر روز، ساخت صفحات فیشینگ غیرقابل تفکیک از اصل، و ía اجتماعی مقیاسدهی شده استفاده میکنند.

در سوی دیگر، راهکارهای امنیتی باید از هوش مصنوعی برای پیشبینی حملات، خودکارسازی پاسخ به رویداد (SOAR) و شبیهسازی مهاجم مداوم بهره ببرند. تولید کد مخرب و اکسپلویتهای صفر روز یکی از خطرناکترین قابلیتهای مدلهای پیشرفته مانند کلود، توانایی درک عمیق کدها و آسیبپذیریهای نرمافزاری است.

اگرچه این شرکتها گاردریلها امنیتی قرار دادهاند، اما مهاجم با تکنیکهایی مانند جیلبریک یا تزریق پرامپت سعی میکنند این محدودیتها را دور بزنند. گزارشها حاکی از آن است که هکرها از کلود برای تحلیل کدهای منبع باز، یافتن باگها و نوشتن اکسپلویتهای کارآمد استفاده کردهاند. این یعنی زمان بین کشف آسیبپذیری و تولید سلاحسازی شده برای آن به شدت کاهش یافته است.

فیشینگ و مهندسی اجتماعی نسل جدید حملههای فیشینگ دیگر ایمیلهای بدنوشته و کلی نیستند. هوش مصنوعی امکان ساخت پیامهای هدفمند را با استفاده از اطلاعات عمومی (OSINT) و دادههای دزدیده شده فراهم میکند. کلود میتواند سبک نگارش یک فرد خاص، محتوای مرتبط با شغل او و حتی فایلهای صوتی یا تصویری دیپفیک را برای فریب دادن قربانی تولید کند. این حملات به دلیل شخصیسازی بالا، نرخ موفقیت بسیار بالاتری نسبت به روشهای سنتی دارند.

استراتژیهای دفاعی پیشرفته با قدرت هوش مصنوعی برای مقابله با تهدیدات هوشمند، دفاعها باید هوشمندتر باشند. سازمانهای پیشرو در امنیت سایبری در حال استقرار راهکارهای مبتنی بر یادگیری ماشین (ML) برای شناسایی ناهنجاریها، جستجوی تهدید پیشگیرانه و پاسخ خودکار به رویدادها هستند.

پلتفرمهای XDR و SOAR هوشمند پلتفرمهای تشخیص و پاسخ توسعهیافته ( – XDR) که با ماژولهای هوش مصنوعی تقویت شدهاند، قابلیت همبستگی دادهها از نقاط پایانی، شبکه، ابر و ایمیل را فراهم میکنند. این سیستمها میتوانند الگوهای حمله چندمرحلهای که توسط هکرها با کمک هوش مصنوعی طراحی شدهاند، بازسازی و قبل از تکمیل زنجیره حمله آنها را متوقف کنند.

ادغام با سیستمهای هماهنگسازی، خودکارسازی و پاسخ امنیتی (SOAR) امکان اجرای پلیبوکهای پاسخ خودکار را در میلیثانیه فراهم میآورد. شبیهسازی مهاجم مداوم استفاده از هوش مصنوعی برای شبیهسازی رفتار گروههای هکری شناختهشده (مانند MITRE ATT&CK ) به سازمانها اجازه میدهد تا مداماً کنترلهای امنیتی خود را در برابر تکنیکهای واقعی تست کنند.

این رویکرد تیم قرمز خودکار نقاط ضعف را قبل از مهاجم واقعی شناسایی و اولویتبندی اصلاحات را بر اساس ریسک واقعی امکانپذیر میسازد. آمادگی عامل انسانی خط دفاعی آخر با وجود تمام پیشرفتهای تکنولوژیک، عامل انسانی همچنان پرآسیبترین حلقه زنجیره امنیت است. حملات مهندسی اجتماعی تقویتشده با هوش مصنوعی به طور خاص برای دور زدن کنترلهای فنی طراحی شدهاند و مستقیماً به روانشناسی و اعتماد قربانی حمله میکنند.

برنامههای آموزش آگاهی امنیتی مداوم و واقعیگرایانه آموزشهای یکباره و تئوریتی اثر چندانی ندارند. سازمانها باید برنامههای آموزش آگاهی امنیتی را پیادهسازی کنند که شامل شبیهسازی حملات فیشینگ هوشمند، سناریوهای مهندسی اجتماعی مبتنی بر دیپفیک و تستهای ناگهانی باشد. هدف ایجاد یک فرهنگ امنیتی است که در آن هر کارمندی به عنوان یک سنسور امنیتی عمل کند و رویدادهای مشکوک را بلافاصله گزارش دهد.

مدیریت هویت و دسترسی ممتاز (PAM) حسابهای کاربری با امتیازات بالا هدف اصلی هکرها برای نفوذ جانبی و ارتقای امتیاز هستند. راهکار مدیریت دسترسی ممتاز با قابلیتهای نظیر ذخیرهسازی امن رمزها، تزریق اعتبار بدون اطلاع کاربر، نظارت و ضبط جلسات ممتاز و تأیید چندمرحلهای برای عملیات حساس، میتواند اثرات نفوذ را به حداقل برساند.

جمعبندی امنیت سایبری در عصر هوش مصنوعی عمومی گزارش آنتروپیک درباره سوءاستفاده از کلود، تنها نوک یخ یک تغییر پارادایم بزرگ در تهدیدات سایبری است. هوش مصنوعی عمومی ( AI) مانعهای ورودی برای جرایم سایبری را فرو ریخته و قدرت تهاجمی را در دسترس طیف وسیعی از مهاجمین قرار داده است.

مقابله با این تهدیدات نیازمند رویکردی چندلایه، پویا و هوشمند است که تکنولوژی پیشرفته، ìهای سختگیرانه، تقنینی موثر و فرهنگ امنیتی قوی را در کنار هم قرار دهد. سازمانهایی که در سرمایهگذاری بر روی امنیت سایبری مبتنی بر هوش مصنوعی و تقویت استقامت سایبری تاخیر کنند، قربانیان بالقوهای برای موج بعدی حملات هک ارتعاشی و باجافزاری هوشمند خواهند بود.

اقدامات فوری پیشنهادی برای مدیران امنیت (CISOها) بررسی فوری سطح دسترسی محیطهای اجرای کد هوش مصنوعی در سازمان. استقرار کنترلهای DLP پیشرفته برای مانیتورینگ انتقال دادههای حساس. شروع پروژه معماری اعتماد صفر در صورت عدم اجرا. برگزاری جلسه اضطراری بورد برای ارزیابی ریسک باجافزاری و تخصیص بودجه دفاعی. تغییر فوری برنامههای آموزش آگاهی امنیتی برای پوشش تهدیدات دیپفیک و فیشینگ هوشمند.

امنیت سایبری دیگر یک مسئله فنی محض نیست، بلکه یک ضرورت استراتژیک برای بقا و اعتماد عمومی در دیجیتال اکونومی است. زمان اقدام، هماکنون است.