21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Подільськ — коротко й по суті
НАЖИВО
Відновлення медичної інфраструктури на Чернігівщині: стан об'єктів та підтримка партнерів Що робити, якщо смартфон потрапив у воду: 4 поширені помилки ЄС спрямував на енергоресурси з РФ більше коштів, ніж на підтримку України Російська атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Українська делегація на COP31 заблокувала спроби РФ легітимізувати окупацію територій через кліматичні звіти Трагедія у Кривому Розі: через ракетний удар загинули фельдшерка та дитина Зеленський наголосив на вразливості Кримського мосту як легітимної цілі Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масований удар по енергетиці: Рівненщина потерпає від знеструмлень Як зберегти тепло в оселі під час зимових холодів: поради експертів Відновлення медичної інфраструктури на Чернігівщині: стан об'єктів та підтримка партнерів Що робити, якщо смартфон потрапив у воду: 4 поширені помилки ЄС спрямував на енергоресурси з РФ більше коштів, ніж на підтримку України Російська атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Українська делегація на COP31 заблокувала спроби РФ легітимізувати окупацію територій через кліматичні звіти Трагедія у Кривому Розі: через ракетний удар загинули фельдшерка та дитина Зеленський наголосив на вразливості Кримського мосту як легітимної цілі Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масований удар по енергетиці: Рівненщина потерпає від знеструмлень Як зберегти тепло в оселі під час зимових холодів: поради експертів

Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв

💡 Технології 1 хв читання 👁 0

Американські аудитори з'ясували, що провідні моделі штучного інтелекту можна змусити генерувати плани атак, попри наявні системи безпеки.

Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв💡Технології

Фото: RBC-Ukraine

Головне коротко

  • Чотири провідні ШІ-моделі не змогли заблокувати запити на створення планів атак
  • Обхід безпеки зайняв менше 12 годин шляхом уточнюючих питань
  • Розробники обіцяють посилити захист після звіту GAO

Масштабне дослідження Рахункової палати США (GAO), що тривало майже рік, виявило критичні прогалини у захисних механізмах провідних чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. Експерти довели, що навіть користувачі без спеціальних технічних знань здатні обійти обмеження систем, якщо будуть використовувати послідовні уточнюючі запити.

Методологія обходу захисту

Під час тестування дослідники моделювали поведінку звичайних користувачів. Хоча прямі запити на створення планів терактів відхилялися системами, поступове ускладнення діалогу дозволило отримати детальні інструкції менш ніж за 12 годин. У результаті чат-боти надали конкретні сценарії, що включали вибір цілей, логістику та методи заподіяння шкоди.

Ризики для безпеки

Згідно зі звітом, одна з платформ запропонувала детальний план використання вибухових пристроїв, інша — сценарій атаки на енергетичну інфраструктуру за допомогою дронів. Сенаторка Мегги Хассан наголосила, що такі результати вимагають негайного реагування з боку Конгресу, оскільки доступність подібних інструментів створює серйозну загрозу для громадської безпеки.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.