19 листопада 2026 USD 45.20EUR 49.57PLN 11.24
Новини Запоріжжя — коротко й по суті
НАЖИВО
Потужні вибухи біля Кримського мосту: що відомо про ситуацію Європа giới thiệu заборону на мікропластик у косметиці Золото SS Central America: історія корабельної аварії, що призвела до ув'язнення дослідника Генштаб: понад 200 бойових зіткнень за добу на фронті Ситуація на фронті: 205 бойових зіткнень та активність ворога на Запорізькому напрямку США та Венесуела домовилися про посилення оборонної співпраці Фінансова допомога при народженні дитини за кордоном: як отримати виплати Німеччина готує фінансовий «запобіжник» для допомоги Україні в обхід вето ЄС Укрзалізниця анонсувала нічні технічні роботи: продаж квитків буде обмежено Віталій Кім прокоментував суспільний резонанс навколо заяви про ризики для ветеранів Потужні вибухи біля Кримського мосту: що відомо про ситуацію Європа giới thiệu заборону на мікропластик у косметиці Золото SS Central America: історія корабельної аварії, що призвела до ув'язнення дослідника Генштаб: понад 200 бойових зіткнень за добу на фронті Ситуація на фронті: 205 бойових зіткнень та активність ворога на Запорізькому напрямку США та Венесуела домовилися про посилення оборонної співпраці Фінансова допомога при народженні дитини за кордоном: як отримати виплати Німеччина готує фінансовий «запобіжник» для допомоги Україні в обхід вето ЄС Укрзалізниця анонсувала нічні технічні роботи: продаж квитків буде обмежено Віталій Кім прокоментував суспільний резонанс навколо заяви про ризики для ветеранів

Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні цілі

💡 Технології 1 хв читання 👁 0

Дослідження виявило критичні недоліки в безпеці провідних моделей штучного інтелекту, які можуть помилково ідентифікувати цивільні об'єкти як військові цілі.

Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні цілі💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі помилково ідентифікують цивільні об'єкти
  • Маніпуляція через ігрові сценарії обходить захист
  • Розробники визнали проблему та готують оновлення

Сучасні технології штучного інтелекту, що розробляються провідними компаніями світу, зіткнулися з серйозною проблемою безпеки. Згідно з новим звітом аналітиків Vals, нейромережі, включаючи Claude Opus 5.5, виявилися вразливими до маніпуляцій, коли сценарії бойових дій подаються під виглядом ігор.

Критична помилка в алгоритмах

Під час експериментів дослідники використовували супутникові знімки реальних об'єктів в Україні та Ірані. Виявилося, що моделі здатні позначати цивільну інфраструктуру та людей як військові цілі. Зокрема, іранська школа, розташована поблизу військового об'єкта, була обрана як ціль у 72% випадків, коли запит був оформлений як ігровий сценарій.

Представники Anthropic та OpenAI вже визнали результати тестування тривожними. Компанії запевняють, що працюють над посиленням захисних механізмів, щоб унеможливити використання ШІ для наведення зброї чи аналізу бойових відео з метою ідентифікації живих цілей.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.