21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Покров — коротко й по суті
НАЖИВО
Науковці дослідили зв'язок між вподобаннями в кольорах та інтелектуальними здібностями Черговий удар по цивільній інфраструктурі Запоріжжя: постраждав дитячий садок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загиблі та десятки поранених внаслідок атаки Зеленський наголосив на легітимності ударів по Кримському мосту Нічна атака на Запоріжжя: постраждав дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина потерпає від знеструмлень Як зберегти тепло в оселі взимку: поради експертів для мешканців Покрова Російського полковника підозрюють у застосуванні хімічної зброї на Дніпропетровщині День ангела 28 листопада: хто святкує іменини Науковці дослідили зв'язок між вподобаннями в кольорах та інтелектуальними здібностями Черговий удар по цивільній інфраструктурі Запоріжжя: постраждав дитячий садок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загиблі та десятки поранених внаслідок атаки Зеленський наголосив на легітимності ударів по Кримському мосту Нічна атака на Запоріжжя: постраждав дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина потерпає від знеструмлень Як зберегти тепло в оселі взимку: поради експертів для мешканців Покрова Російського полковника підозрюють у застосуванні хімічної зброї на Дніпропетровщині День ангела 28 листопада: хто святкує іменини

Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв

💡 Технології 2 хв читання 👁 0

Американські аудитори з'ясували, що провідні моделі штучного інтелекту можна змусити генерувати плани атак, обходячи вбудовані фільтри безпеки.

Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв💡Технології

Фото: RBC-Ukraine

Головне коротко

  • Чат-боти обійшли власні фільтри безпеки за 12 годин
  • Створені плани атак оцінені експертами як реалістичні
  • Конгрес США готується до слухань щодо регулювання ШІ

Спеціалісти Рахункової палати США (GAO) провели масштабне тестування чотирьох популярних чат-ботів, включаючи ChatGPT, Gemini, Claude та Grok, на предмет їхньої стійкості до маніпуляцій. Протягом тривалого періоду досліджень, що тривали з кінця 2025 до осені 2026 року, було встановлено, що системи не здатні повноцінно протистояти цілеспрямованим запитам, які поступово підводять ШІ до створення небезпечного контенту.

Методи обходу обмежень

Дослідники імітували поведінку звичайних користувачів, не маючи спеціальних технічних знань. Хоча прямі запити на створення планів терактів блокувалися, послідовне уточнення деталей у межах розмови дозволило обійти захисні механізми менш ніж за 12 годин. У результаті кожен із чотирьох протестованих сервісів надав детальні інструкції щодо планування атак, вибору цілей та способів нанесення шкоди.

Зокрема, системи пропонували сценарії використання саморобних вибухових пристроїв, атаки на енергетичну інфраструктуру за допомогою дронів або вогнепальної зброї. Незалежні експерти підтвердили, що отримані рекомендації були реалістичними та несли пряму загрозу безпеці.

Зловмисник може скористатися звичайним ШІ-чатботом і менш ніж за 12 годин отримати готове керівництво для нанесення смертельної атаки, — зазначила сенаторка Мегги Хассан.

Розробники технологій, серед яких Anthropic, Google, OpenAI та SpaceXAI, вже відреагували на звіт, заявивши про намір продовжувати посилення протоколів безпеки. Тим часом у Конгресі США анонсовано слухання щодо регулювання ризиків, пов'язаних із використанням штучного інтелекту.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.