محققان ام.آی.تی هوش مصنوعی گوگل را فریب دادند
پژوهشگران دانشگاه ام .آی. تی یک سیستم متنی موسوم به تکست فولر ابداع کرده اند که می تواند مدل های هوش مصنوعی را که از سیستم پردازش زبان طبیعی استفاده می کنند، گول بزند.
فناوران- این سیستم جملاتی را با دستکاری چند کلمه آنها به خورد سیستم پردازش زبان طبیعی می دهد، بدون اینکه دستکاری یادشده موجب تغییر معنا یا ایجاد غلط های دستور زبانی شود. بعد از این کار و بررسی واکنش سیستم پردازش زبان های طبیعی به این تغییر، به تدریج تغییرات جدی تر و عمیق تری در جملات ایجاد می شود تا در نهایت از حساسیت و دقت این سیستم کاسته شود و بتوان آن را فریب داد. محققان دانشگاه ام آی تی می گویند با همین روش سه مدل متداول در سیستم پردازش زبان ه طبیعی را دستکاری کرده و فریب داده اند.
یکی از این مدل ها که برت نام دارد، یک مدل زبانی متن باز ابداع شده توسط گوگل است که تنها تغییر ۱۰ درصد از بخش های هر جمله توسط تکست فولر به فریب آن منجر شد. بر همین اساس انتظار می رود شرکت های فناوری برای ارتقای سیستم پردازش زبان طبیعی اقدام کنند تا از دستکاری آن جلوگیری کنند.
منبع: مهر