گزارش ۱۵۴ صفحهای تازه منتشرشده توسط Anthropic، نشاندهندهٔ افتضاحاتی است که ناشی از سوءاستفاده از هوش مصنوعی این شرکت میباشد. به گفتهٔ این گزارش، افرادی از جمله مجرمان، گروههای تحت حمایت دولتها، فروشندگان بدافزار، دانشمندان و پروپاگاندیستها در حال تلاش برای بهرهبرداری از مدلهای قدرتمند هوش مصنوعی Anthropic هستند تا به طراحی موشکها و بمبها، تولید پاتوژنهای مرگبار و نظارت بر مخالفان بپردازند.
تهدیدات نوین و بیسابقه
Anthropic در این گزارش تصریح کرده است که مواردی که به آنها اشاره میکند، سوءاستفادههای معمول نیستند، بلکه نمونههایی از فعالیتهای تهدیدآمیز و نوین هستند که تا به امروز شناسایی شدهاند. این شرکت معتقد است که برای افشای سوءاستفادههای بدخواهانه از خدمات خود، مسئولیتی جدی دارد.
این گزارش دو روز پس از استعفای Jacob Coxon، یکی از کارکنان سابق Anthropic منتشر شده است. Coxon در پی نگرانیهای جدی از سرعت پیشرفت مدلهای هوش مصنوعی این شرکت که به گفتهٔ برخی میتواند به انقراض بشر تا سال ۲۰۳۰ منجر شود، تصمیم به ترک این شرکت گرفت.
نگرانیهای بشری و امنیتی
با توجه به گزارشهای اخیر، واضح است که هوش مصنوعی میتواند به دو ابزار قوی و خطرناک تبدیل شود. در حالی که این فناوری میتواند به پیشرفتهای شگرفی در زمینههای مختلف منجر شود، سوءاستفاده از آن به ویژه در زمینههای نظامی و اطلاعاتی، نگرانیهای جدی را به دنبال دارد. آیا ما در حال ورود به عصر جدیدی از تهدیدات هستیم که در آن فناوریهای پیشرفته میتوانند به ابزاری برای تخریب و کنترل تبدیل شوند؟
گزارش Anthropic زنگ خطر را به صدا درآورده و بر لزوم نظارت و کنترل دقیقتر بر فناوریهای هوش مصنوعی تأکید دارد. این در حالی است که جامعه جهانی باید به سرعت به این تهدیدات پاسخ دهد و راهکارهایی عملی برای جلوگیری از سوءاستفادههای آینده پیدا کند.
