19 листопада 2026 USD 45.05EUR 49.53PLN 11.22
Новини Покров — коротко й по суті
НАЖИВО
Латвійські дипломати продовжують роботу в Україні попри російські атаки Дональд Трамп висловив сумніви щодо подальшої військової допомоги Україні Дональд Трамп розкритикував європейську фінансову підтримку України Джаред Кушнер повідомив про готовність РФ обговорювати гарантії безпеки для України за моделлю НАТО Саміт у Шеньчжені: лідери США, Китаю та РФ підписали декларацію без згадки про Україну Сили оборони спростували фейк про окупацію Шилівки Франція ініціює нову зустріч щодо оборонного проєкту «Фрея» Справа «Роттердам+»: міжнародні спостерігачі вказують на ризики для правосуддя Європа візьме участь у майбутніх перемовинах з Росією: деталі формату Енергетична ситуація 20 листопада: графіки відключень світла у Покрові та регіоні Латвійські дипломати продовжують роботу в Україні попри російські атаки Дональд Трамп висловив сумніви щодо подальшої військової допомоги Україні Дональд Трамп розкритикував європейську фінансову підтримку України Джаред Кушнер повідомив про готовність РФ обговорювати гарантії безпеки для України за моделлю НАТО Саміт у Шеньчжені: лідери США, Китаю та РФ підписали декларацію без згадки про Україну Сили оборони спростували фейк про окупацію Шилівки Франція ініціює нову зустріч щодо оборонного проєкту «Фрея» Справа «Роттердам+»: міжнародні спостерігачі вказують на ризики для правосуддя Європа візьме участь у майбутніх перемовинах з Росією: деталі формату Енергетична ситуація 20 листопада: графіки відключень світла у Покрові та регіоні

Уразливість ШІ: моделі Anthropic та OpenAI можуть помилково ідентифікувати цивільні об'єкти як військові цілі

💡 Технології 1 хв читання 👁 2

Нове дослідження аналітиків Vals виявило критичні недоліки в системах штучного інтелекту, які дозволяють маніпулювати ними для наведення на цивільні об'єкти.

Уразливість ШІ: моделі Anthropic та OpenAI можуть помилково ідентифікувати цивільні об'єкти як військові цілі💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі вразливі до маніпуляцій через ігрові сценарії
  • Моделі помилково позначають цивільні об'єкти як військові цілі
  • Розробники визнали проблему та працюють над захисними механізмами

Аналітична компанія Vals оприлюднила звіт, що демонструє небезпечні прогалини в безпеці передових моделей штучного інтелекту, зокрема від OpenAI та Anthropic. Експерименти показали, що ШІ-системи можуть ідентифікувати цивільних осіб та соціальні об'єкти як потенційні військові цілі, якщо користувач використовує певні маніпулятивні прийоми.

Механізм маніпуляції та наслідки

Дослідники проводили тести, поєднуючи симуляції з реальними супутниковими знімками об'єктів в Україні та Ірані. З'ясувалося, що навіть просте формулювання сценарію як «гри» дозволяє обійти вбудовані запобіжники безпеки. Наприклад, модель Claude Opus 5.5 у більшості випадків класифікувала школу поблизу військового об'єкта як ціль для атаки.

Розробники вже відреагували на критику. Представник Anthropic Едуардо Майя Силва назвав результати тестів неприпустимими, а в OpenAI заявили про посилення бар'єрів для запобігання використанню ШІ у військових цілях. Наразі технічні обмеження, такі як затримка передачі даних та нестача обчислювальних потужностей, стримують пряме інтегрування таких систем у бойові дрони.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.