آی بی ام امروز اعلام کرد کتابخانه ی نرم افزاری متن بازی را منتشر کرده تا به محققان و توسعه دهندگان کمک کند تا از سیستم های هوش مصنوعی خود در برابر حملات محافظت کنند. این نرم افزار (Adversarial Robustness Toolbox (ART نام داشته و به کارشناسان کمک می کند تا فناوری های امنیتی جدیدی را ایجاد و تست کنند و بتوانند آن ها را بر روی سیستم های دنیای واقعی مستقر کنند.
از بزرگ‌ترین مزایای هوش مصنوعی می‌توان به شبکه‌های عصبی عمیق، مدل‌های یادگیری ماشین پیچیده برای تشخیص الگوها مبتنی بر کارکرد مغز انسان و طبقه‌بندی و خوشه‌بندی داده‌ها اشاره کرد. از شبکه‌های عصبی عمیق می‌توان برای تشخیص اشیاء در تصاویر، ترجمه، تبدیل گفتار به متن و حتی تشخیص آسیب‌پذیری در نرم‌افزارها استفاده کرد.
با وجود تمامی مزایایی که برای شبکه‌ی عصبی عمیق برشمردیم، مسأله‌ی مهمی وجود دارد و این است که چنین سیستم‌هایی در برابر حملات آسیب‌پذیر هستند. برای انجام این حملات، مهاجم می‌تواند داده‌های غلط را به‌عنوان ورودی به این سیستم‌ها بدهد و در نتیجه خروجی اشتباه خواهد بود.
محافظت از سیستم‌های هوش مصنوعی در حوزه‌های امنیتی بسیار ضروری بوده و ابزار آی‌بی‌ام که مبتنی بر پایتون است، این سطح امنیتی را برای این سیستم‌ها فراهم می‌کند. به گفته‌ی آی‌بی‌ام در این کتابخانه مثال‌های متعددی از این حملات وجود داشته و راه‌های دفاعی با آن‌ها در شبکه‌ی عصبی عمیق نیز ارائه شده است.
