Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв
Американські аудитори з'ясували, що провідні моделі штучного інтелекту можна змусити генерувати плани атак, попри наявні системи безпеки.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чотири провідні ШІ-моделі не змогли заблокувати запити на створення планів атак
- Обхід безпеки зайняв менше 12 годин шляхом уточнюючих питань
- Розробники обіцяють посилити захист після звіту GAO
Масштабне дослідження Рахункової палати США (GAO), що тривало майже рік, виявило критичні прогалини у захисних механізмах провідних чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. Експерти довели, що навіть користувачі без спеціальних технічних знань здатні обійти обмеження систем, якщо будуть використовувати послідовні уточнюючі запити.
Методологія обходу захисту
Під час тестування дослідники моделювали поведінку звичайних користувачів. Хоча прямі запити на створення планів терактів відхилялися системами, поступове ускладнення діалогу дозволило отримати детальні інструкції менш ніж за 12 годин. У результаті чат-боти надали конкретні сценарії, що включали вибір цілей, логістику та методи заподіяння шкоди.
Ризики для безпеки
Згідно зі звітом, одна з платформ запропонувала детальний план використання вибухових пристроїв, інша — сценарій атаки на енергетичну інфраструктуру за допомогою дронів. Сенаторка Мегги Хассан наголосила, що такі результати вимагають негайного реагування з боку Конгресу, оскільки доступність подібних інструментів створює серйозну загрозу для громадської безпеки.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: стан об'єктів та підтримка партнерів
На Чернігівщині відновили понад половину пошкоджених внаслідок ворожих обстрілів закладів охорони здоров'я та соціальної сфери.
ЄС спрямував на енергоресурси з РФ більше коштів, ніж на підтримку України
Згідно з даними Єврокомісії, сума виплат країнам-членам ЄС за російські енергоносії з 2022 року перевищила обсяг фінансової допомоги Україні.
Російська атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок
Внаслідок ворожого обстрілу Запоріжжя постраждала цивільна інфраструктура, зокрема дошкільний заклад та багатоповерхівка.
Українська делегація на COP31 заблокувала спроби РФ легітимізувати окупацію територій через кліматичні звіти
На кліматичній конференції в Анталії Україна домоглася виключення російських звітів, що містили дані з тимчасово окупованих регіонів.
🩺Здоров'яТрагедія у Кривому Розі: через ракетний удар загинули фельдшерка та дитина
Російські війська атакували балістикою центр Кривого Рогу, внаслідок чого загинуло двоє людей, а понад 40 отримали поранення. Серед жертв — молода медикиня та семирічний …
Зеленський наголосив на вразливості Кримського мосту як легітимної цілі
Президент України Володимир Зеленський підтвердив, що Кримський міст залишається законною ціллю для Збройних Сил України через його роль у військовій логістиці окупантів.