Anthropic шукає експерта зі зброї для запобігання зловживанням ШІ 🤖

Компанія Anthropic, розробник відомого чат-бота Claude, оголосила про пошук фахівця з досвідом у сфері озброєнь. Це рішення є частиною нової стратегії безпеки, спрямованої на те, щоб моделі штучного інтелекту не допомагали користувачам у плануванні атак або створенні біологічної чи хімічної зброї. Залучення такого експерта підкреслює зростаюче занепокоєння технологічних гігантів щодо етичних та безпекових ризиків, які несе генеративний ШІ. Компанія прагне діяти на випередження, виявляючи потенційні вразливості в алгоритмах до того, як вони будуть використані зі злим умислом. Фахівець працюватиме над стрес-тестуванням систем та розробкою фільтрів, які блокуватимуть небезпечні запити. Це свідчить про зміщення фокусу індустрії від чистої продуктивності до відповідального впровадження інновацій у критичних галузях.