مدیر ارشد امنیت گوگل هشدار می‌دهد که هوش مصنوعی (AI) شرکت‌ها را مجبور می‌کند تا در مورد نحوه محافظت از عملیات دیجیتالی خود تجدید نظر کنند. به این دلیل که اقدامات امنیتی سایبری سنتی در برابر حملات پیشرفته مبتنی بر هوش مصنوعی ناکافی است. همینطور با افزایش تهدیدات سایبری برای شرکت‌ها و کمپانی‌ها بسیار زیادی روبه‌رو هستم.
مدل‌های پیشرفته یادگیری ماشین اکنون می‌توانند زمینه و هدف ارتباطات را درک کنند و از تطبیق الگوی ساده فراتر رود و تهدیداتی را شناسایی کنند که ابزارهای امنیتی سنتی را دور می‌زنند. این رویکرد فعال نشان‌دهنده تغییری است که با تغییرات جدید حمله در زمان واقعی سازگار می‌شود.
ناظران می‌گویند که هوش مصنوعی کسب و کارها را مجبور می‌کند که بیشتر برای سیستم‌های امنیتی جدید هزینه کنند. اما این ابزارهای هوش مصنوعی می‌توانند با جلوگیری از کلاهبرداری آنلاین در هزینه‌ها صرفه جویی کنند. شرکت‌های کوچک و بزرگ می‌توانند از هوش مصنوعی برای شناسایی رفتارهای مشکوک و توقف حملات سایبری قبل از وقوع استفاده کنند. و ابزارهای هوش مصنوعی خود دفاعی قوی در برابر حملات آنلاین هستند.
بیشتر بخوانید: استفاده از هوش مصنوعی در امنیت سایبری
چالش‌های امنیتی هوش مصنوعی
شرکت‌ها اکنون باید حفاظت‌های سرتاسری را که به صراحت برای سیستم‌های هوش مصنوعی طراحی شده‌اند، از جمله پاک‌سازی دقیق داده‌ها، کنترل‌های دسترسی جامع، و «شکن‌های مدار» که می‌توانند خروجی‌های مدل مضر را متوقف کنند، اجرا کنند. این چارچوب‌های امنیتی جدید نیاز به سرمایه‌گذاری هنگفتی دارند. اما برای سازمان‌هایی که به‌دنبال استفاده ایمن از مزایای هوش مصنوعی و در عین حال محافظت در برابر افزایش تهدیدات سایبری هستند، ضروری هستند.
سیستم‌های امنیتی مدرن باید فراتر از شاخص‌های سنتی سازش گسترش پیدا کنند تا محتوای تولید شده توسط هوش مصنوعی را شناسایی کنند. به‌ویژه در حملات فیشینگ و مهندسی اجتماعی که از مدل‌های زبان بزرگ استفاده می‌کنند.
سازمان‌ها باید سیستم‌های تشخیص جدیدی را توسعه دهند که به طور خاص برای نظارت و شناسایی الگوهای رفتاری عوامل هوش مصنوعی، نوع جدیدی از نرم‌افزار مستقل طراحی شده‌اند. این سیستم سه علامت هشدار دهنده کلیدی را زیر نظر دارد. الگوهای عجیب و غریب در نحوه استفاده از مدل‌های هوش مصنوعی، تعداد غیرعادی بالای درخواست‌ها و جهش‌های مشکوک در قدرت محاسباتی.