Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв
Американські аудитори з'ясували, що провідні моделі штучного інтелекту можна змусити генерувати плани атак, обходячи вбудовані фільтри безпеки.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чат-боти обійшли власні фільтри безпеки за 12 годин
- Створені плани атак оцінені експертами як реалістичні
- Конгрес США готується до слухань щодо регулювання ШІ
Спеціалісти Рахункової палати США (GAO) провели масштабне тестування чотирьох популярних чат-ботів, включаючи ChatGPT, Gemini, Claude та Grok, на предмет їхньої стійкості до маніпуляцій. Протягом тривалого періоду досліджень, що тривали з кінця 2025 до осені 2026 року, було встановлено, що системи не здатні повноцінно протистояти цілеспрямованим запитам, які поступово підводять ШІ до створення небезпечного контенту.
Методи обходу обмежень
Дослідники імітували поведінку звичайних користувачів, не маючи спеціальних технічних знань. Хоча прямі запити на створення планів терактів блокувалися, послідовне уточнення деталей у межах розмови дозволило обійти захисні механізми менш ніж за 12 годин. У результаті кожен із чотирьох протестованих сервісів надав детальні інструкції щодо планування атак, вибору цілей та способів нанесення шкоди.
Зокрема, системи пропонували сценарії використання саморобних вибухових пристроїв, атаки на енергетичну інфраструктуру за допомогою дронів або вогнепальної зброї. Незалежні експерти підтвердили, що отримані рекомендації були реалістичними та несли пряму загрозу безпеці.
Зловмисник може скористатися звичайним ШІ-чатботом і менш ніж за 12 годин отримати готове керівництво для нанесення смертельної атаки, — зазначила сенаторка Мегги Хассан.
Розробники технологій, серед яких Anthropic, Google, OpenAI та SpaceXAI, вже відреагували на звіт, заявивши про намір продовжувати посилення протоколів безпеки. Тим часом у Конгресі США анонсовано слухання щодо регулювання ризиків, пов'язаних із використанням штучного інтелекту.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Науковці дослідили зв'язок між вподобаннями в кольорах та інтелектуальними здібностями
Нове дослідження вивчає, як вибір кольорів в одязі та оточенні може корелювати з типом особистості та рівнем інтелекту.
Черговий удар по цивільній інфраструктурі Запоріжжя: постраждав дитячий садок
Російські війська атакували дитячий садок у Запоріжжі, що спричинило пожежу в сусідньому житловому будинку.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на саміті COP31 в Анталії виступила проти включення Росією даних з окупованих територій до офіційних кліматичних звітів.
🛡️БезпекаРакетний удар по Кривому Рогу: загиблі та десятки поранених внаслідок атаки
Вечірня балістична атака на центр Кривого Рогу призвела до трагічних наслідків: загинули двоє людей, серед яких дитина, десятки мешканців отримали поранення.
Зеленський наголосив на легітимності ударів по Кримському мосту
Президент України Володимир Зеленський підтвердив, що Кримський міст залишається законною ціллю для Збройних Сил України через його роль у військовій логістиці окупантів.
🚨ПодіїНічна атака на Запоріжжя: постраждав дитячий садок та житловий будинок
У ніч на 21 листопада російські війська завдали удару по Запоріжжю, поціливши у дошкільний заклад та спричинивши пожежу в сусідній багатоповерхівці.