خطرات امنیتی ابزار هوش مصنوعی در وزارت دفاع بریتانیا؛ داده‌های پرسنل در سرور‌های آمازون آمریکا
گزارشی رسمی دولت بریتانیا نشان می‌دهد که استفاده از یک ابزار هوش مصنوعی می‌زبانی‌شده توسط آمازون برای بهبود فرآیند استخدام در وزارت دفاع، می‌تواند منجر به افشای اطلاعات شخصی پرسنل دفاعی شود. این ابزار که توسط شرکت تکسیو توسعه یافته، از داده‌هایی نظیر نام، سمت و آدرس ایمیل کارکنان دفاعی برای نگارش آگهی‌های استخدامی و جذب نیروی متنوع‌تر بهره می‌برد. کلیه این اطلاعات بر روی زیرساخت ابری آمازون وب سرویسز (AWS) در ایالات متحده ذخیره می‌شوند که در صورت وقوع نقض داده، امکان شناسایی هویت پرسنل را فراهم می‌آورد.
ارزیابی ریسک و اقدامات امنیتی
به نقل از سوابق شفافیت الگوریتمی دولت انگلستان، وزارت دفاع این تهدید را با سطح ریسک پایین ارزیابی کرده و اعلام نموده که محدودیت‌های امنیتی قوی توسط تامین‌کنندگان شامل تکسیو، AWS و سرویس تشخیص تهدید آمازون گارددیتی اعمال شده است. آمازون تأکید کرده که گارددیتی یک محصول داخلی AWS است و نه تامین‌کننده جداگانه. با وجود این، این مورد تنها یکی از چندین ریسک شناسایی‌شده در ارتباط با بکارگیری ابزار‌های هوش مصنوعی در بخش عمومی است. دولت بریتانیا با انتشار مجموعه اسناد تازه، تلاش می‌کند شفافیت بیش‌تری در نحوه استفاده از الگوریتم‌ها در بخش دولتی برقرار سازد.
همکاری غول‌های تکنولوژی با بخش عمومی
گوگل و متا نیز مستقیما با دولت بریتانیا در توسعه کاربرد‌های هوش مصنوعی برای خدمات عمومی همکاری دارند. مایکروسافت نیز سیستم کوپایلوت مبتنی بر هوش مصنوعی را در اختیار کارمندان دولتی قرار داده است. پت مک‌افادن، وزیر دفتر کابینه، در آغاز این ماه اعلام کرد که دولت قصد دارد بیش‌تر به تفکر یک استارتاپ بپردازد. در ادامه، مهم‌ترین ابزار‌ها و ریسک‌های مرتبط در ثبت‌نام الگوریتمی دولت مرکزی مرور شده‌اند
ابزار برنامه‌ریزی درسی مبتنی بر
این ابزار که از مدل زبانی بزرگ اوپن‌ای‌آی (OpenAI) بهره می‌گیرد، می‌تواند محتوای آموزشی نامناسب یا مغرضانه تولید کند. از سوی دیگر، این سیستم به معلمان کمک می‌کند تا زمان خود را بهینه کنند و برنامه‌های درسی را به شدت شخصی‌سازی نمایند.
چت‌بات مشاوره رفاه کودکان در دادگاه‌های خانواده
این ربات گفتگو که در دادگاه‌های خانواده مستقر شده، امکان تولید توهم و ارائه اطلاعات نادرست را دارد. با این حال، دسترسی شبانه‌روزی به اطلاعات و کاهش زمان انتظار برای مشاوره با مشاور انسانی از مزایای آن محسوب می‌شود.
آخرین مطالب
- تحلیل عملکرد حرارتی مکبوک پرو M۵: پیشرفت چشمگیر نسبت به نسل M۴
- کاوازاکی نینجا ZX-۶R ۲۰۲۵: بررسی کامل سوپراسپرت ۶۰۰ سیسی پرقدرت
- اینفوگرافی چیست؟ راهنمای جامع انواع، مزایا و مراحل ساخت اینفوگرافیک حرفهای
- استراتژی برای نفوذ در اکوسیستم اپل با خرید اپلیکیشن
- کشف سه سیاره زمینسان با دو غروب خورشید در منظومه TOI-۲۲۶۷
سیستم پالیسی‌انجین وزارت خزانه‌داری
این سامانه از یادگیری ماشین برای مدل‌سازی تغییرات مالیاتی و مزایای اجتماعی با دقت بالا‌تر نسبت به روش‌های موجود استفاده می‌شود. خطر اصلی در اینجا، خطا‌های کد‌نویسی و داده‌های ورودی نادرست است که می‌تواند نتایج غیر‌منتظره‌ای را به همراه آورد.
کاهش توانایی استدلال انسانی در بازرسی‌های بهداشت غذا
اتکا بیش از حد به هوش مصنوعی در اولویت‌بندی بازرسی‌های بهداشت مواد غذایی، می‌تواند توانایی استدلال انسانی را تخریب نماید. این سیستم ممکن است به طور مداوم امتیاز‌های پایین‌تری به برخی نوع مراکز اختصاص دهد، اگرچه می‌تواند بازرسی سریع‌تر مکان‌هایی با احتمال تخلف بالا را تسهیل کند.
کایل اظهار داشت فناوری پتانسیل عظیمی برای متحول کردن خدمات عمومی به سمت بهتر دارد. ما از آن برای کاهش حجم کار معوقه، صرفه‌جویی در هزینه و بهبود نتایج برای شهروندان در سراسر کشور بهره می‌بریم. شفافیت در نحوه و چرایی استفاده بخش عمومی از ابزار‌های الگوریتمی برای اطمینان از اعتماد و اثربخشی آن‌ها از اهمیت بالایی برخوردار است.
سایر کاربرد‌های هوش مصنوعی در بخش دولتی
سایر ابزار‌های ثبت‌شده شامل یک چت‌بات هوش مصنوعی برای پاسخ به سوالات مسافران شبکه ریلی ملی است که بر اساس داده‌های تاریخی سیستم ارتباط با مشتریان آموزش دیده. وزارت آموزش و پرورش نیز از دستیار آموزشی به نام آیل مبتنی بر استفاده می‌کند که به معلمان امکان تدوین برنامه‌های درسی را می‌دهد، اگرچه به گونه‌ای طراحی شده که به طور خودکار برنامه تدوین نکند. خطرات شناسایی‌شده شامل تولید محتوای زیان‌آور یا نامناسب، سوگیری، اطلاعات نادرست و تزریق مطلب ـ روشی که بازیگران مخرب را قادر می‌سازد تا هوش مصنوعی را فریب دهند ـ می‌باشد.
سرویس مشاوره و حمایت از کودکان و خانواده که به دادگاه‌های خانواده در امور رفاه کودکان مشاوره می‌دهد، از یک ربات پردازش زبان طبیعی برای پشتیبانی از سرویس چت وب‌سایت استفاده می‌کند که ماهانه نزدیک به ۲۵۰۰ سوال را پاسخ می‌دهد. یکی از خطرات شناخته‌شده، پردازش گزارش‌های نگرانی در مورد کودکان در کنار توهمات و خروجی‌های نادرست است. این سیستم نرخ موفقیت دو‌سوم دارد و با حمایت شرکت‌هایی نظیر جینسیس و کرو که خود از AWS بهره می‌برند، فعالیت می‌کند.