Уразливість ШІ: моделі Anthropic та OpenAI можуть помилково ідентифікувати цивільні об'єкти як військові цілі
Нове дослідження аналітиків Vals виявило критичні недоліки в системах штучного інтелекту, які дозволяють маніпулювати ними для наведення на цивільні об'єкти.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі вразливі до маніпуляцій через ігрові сценарії
- Моделі помилково позначають цивільні об'єкти як військові цілі
- Розробники визнали проблему та працюють над захисними механізмами
Аналітична компанія Vals оприлюднила звіт, що демонструє небезпечні прогалини в безпеці передових моделей штучного інтелекту, зокрема від OpenAI та Anthropic. Експерименти показали, що ШІ-системи можуть ідентифікувати цивільних осіб та соціальні об'єкти як потенційні військові цілі, якщо користувач використовує певні маніпулятивні прийоми.
Механізм маніпуляції та наслідки
Дослідники проводили тести, поєднуючи симуляції з реальними супутниковими знімками об'єктів в Україні та Ірані. З'ясувалося, що навіть просте формулювання сценарію як «гри» дозволяє обійти вбудовані запобіжники безпеки. Наприклад, модель Claude Opus 5.5 у більшості випадків класифікувала школу поблизу військового об'єкта як ціль для атаки.
Розробники вже відреагували на критику. Представник Anthropic Едуардо Майя Силва назвав результати тестів неприпустимими, а в OpenAI заявили про посилення бар'єрів для запобігання використанню ШІ у військових цілях. Наразі технічні обмеження, такі як затримка передачі даних та нестача обчислювальних потужностей, стримують пряме інтегрування таких систем у бойові дрони.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Латвійські дипломати продовжують роботу в Україні попри російські атаки
Міністр закордонних справ Латвії заявив про непохитність дипломатичної присутності в Україні після обстрілів посольств європейських держав.
🚨ПодіїДональд Трамп висловив сумніви щодо подальшої військової допомоги Україні
Президент США Дональд Трамп під час телефонної розмови з європейськими лідерами поставив під питання доцільність продовження фінансування оборонної підтримки України.
Дональд Трамп розкритикував європейську фінансову підтримку України
Президент США висловив невдоволення обсягами допомоги, яку європейські країни спрямовують на підтримку України, та закликав переглянути витрати на війну.
🛡️БезпекаДжаред Кушнер повідомив про готовність РФ обговорювати гарантії безпеки для України за моделлю НАТО
Спецпредставник Дональда Трампа заявив про прогрес у переговорах щодо безпекових гарантій для України, які можуть базуватися на механізмі 5-ї статті НАТО.
Саміт у Шеньчжені: лідери США, Китаю та РФ підписали декларацію без згадки про Україну
У межах саміту АТЕС відбулися тристоронні переговори між Сі Цзіньпіном, Дональдом Трампом та Володимиром Путіним, результатом яких стала спільна декларація про глобальну …
Сили оборони спростували фейк про окупацію Шилівки
155-та окрема механізована бригада офіційно заявила, що населений пункт Шилівка залишається під повним контролем ЗСУ.