اتحاد ۱۳ شرکت برای مهار هوش مصنوعی متخاصم
یک سازمان تحقیقاتی با همکاری مایکروسافت و ۱۱ شرکت فناوری چارچوبی را برای مقابله با حملات متخاصم که به سیستم های هوش مصنوعی وارد می شود، فراهم کرده اند.
فناوران- مایکروسافت با همکاری سازمان تحقیقاتی MITRE چارچوبی برای کمک به کارشناسان امنیت سایبری جهت مقابله با حملات به مدل های هوش مصنوعی فراهم کرده اند.
این چارچوب ماتریکس تهدید یادگیری ماشینی متخاصم یاAdversarial ML Threat Matrix نام دارد و در گیت هاب فراهم است. علاوه بر مایکروسافت و MITRE یازده شرکت دیگر نیز در این پروژه با آنها همکاری می کنند.
درهمین راستا MITRE دربیانیه ای رسمی در وب سایت خود نوشت: باهمکاری مایکروسافت، بوش، آی بی ام، انویدیا، ایرباس، دیپ اینستینک، تو سیکس لبز، دانشگاه تورنتو، دانشگاه کاردیف، دانشگاه کارنگی ملون، پرایس واترهاوسکوپرز و انستیتو ماشین یادگیری بری ویل این چارچوب را عرضه می کند تا در شناسایی، هشدار و پاسخ به تهدیدها علیه سیستم های یادگیری ماشینی (ML) به تحلیلگران کمک کند.مایکروسافت در وبلاگ خود اعلام کرد طی ۴ سال گذشته با افزایش قابل توجه حملات به سیستم هایML تجاری روبه رو بوده است. گزارش های بازاری ماتریکس تهدید ناشی از یادگیری ماشینی متخاصم قرار است تیم های امنیتی را تقویت کند.این ماتریکس مجموعه ای از رفتارهای خصمانه و آسیب پذیری هایی را در بردارد که شرکت مایکروسافت و MIRTE طی سال ها مشاهده کرده اند.
مایکروسافت در پستی در وبلاگ خود گفت: متوجه شده ایم مهاجمان هنگام حمله به یک سیستم یادگیری ماشینی از ترکیبی از «تکنیک های سنتی» مانند فیشینگ در کنار تکنیک های یادگیری ماشینی متخاصم استفاده می کنند.
منبع: مهر