با توجه به نگرانی های موجود درباره هوش مصنوعی مولد، گوگل اعلام کرد برنامه پاداش آسیب پذیری (VRP) خود را با تمرکز بر حملات خاص هوش مصنوعی و فرصت های سوء استفاده از فناوری گسترش می دهد.

به گزارش خبرگزاری مهر به نقل از انگجت، به طور دقیق تر این شرکت دستورالعمل خود را به روزرسانی کرد که در آن کشفیات واجد شرایط دریافت جایزه را اعلام کرد.

به عنوان مثال، کشف استخراج داده‌های آموزشی که اطلاعات خصوصی و حساس را فاش می‌کند در محدوده مورد نظر قرار می‌گیرد اما اگر کشف مذکور فقط داده‌های عمومی و غیر حساس را نشان دهد، واجد شرایط دریافت جایزه نخواهد بود. سال گذشته، گوگل ۱۲ میلیون دلار برای کشف باگ به محققان امنیتی داد.

این شرکت امنیتی توضیح داده هوش مصنوعی با چالش های امنیتی متفاوتی در مقایسه با دیگر فناوری ها مانند دستکاری مدل و تبعیض ناعادلانه روبرو است. به همین دلیل نیازمند دستورالعملی است که این چالش ها را هدف بگیرد.

در بیانیه شرکت آمده است: ما معتقدیم گسترش برنامه اعطای جایزه درباره ایمنی هوش مصنوعی و امنیت به محققان انگیزه می دهد و چالش های احتمالی را مشخص می کند که در نهایت هوش مصنوعی را برای همه ایمن می کند.

شرکت های سازنده هوش مصنوعی از جمله گوگل در اوایل سال جاری میلادی درکاخ سفید حضور یافتند و به گسترش اکتشافات وآگاهی از ضعف های هوش مصنوعی متعهد شدند.