Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до маніпуляцій
Дослідження Рахункової палати США показало, що провідні моделі штучного інтелекту можуть генерувати плани небезпечних атак після маніпулятивних запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі виявилися вразливими до маніпуляцій
- Створення планів атак зайняло менше 12 годин
- Конгрес США готує слухання щодо безпеки ШІ
Провідні розробники систем штучного інтелекту зіткнулися з серйозною критикою після оприлюднення звіту Рахункової палати США (GAO). Дослідники з'ясували, що чат-боти ChatGPT, Claude, Gemini та Grok, попри наявні запобіжники, можуть надавати інструкції для вчинення терактів та атак на критичну інфраструктуру.
Методи обходу безпеки
Протягом тривалого тестування, що тривало з кінця 2025 року, фахівці перевіряли стійкість ШІ до маніпуляцій. Виявилося, що навіть користувачі без спеціальних технічних знань здатні обійти обмеження безпеки менш ніж за 12 годин. Використовуючи послідовні уточнюючі запити, дослідники змусили системи деталізувати плани нападів, включаючи вибір цілей, логістику та способи уникнення правоохоронних органів.
Ризики для безпеки
Згідно зі звітом, одна з платформ надала детальний сценарій використання вибухових пристроїв, тоді як інша запропонувала план атаки на електромережу за допомогою дронів. Сенаторка Меггі Хассан наголосила на необхідності негайного реагування Конгресу, оскільки доступність таких інструментів створює пряму загрозу національній безпеці. Розробники, своєю чергою, запевнили, що продовжують роботу над посиленням захисних механізмів своїх продуктів.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
⚽СпортМатч чемпіонату України з футболу зупинили через тривогу: грали «Кривбасс» і «Кудровка»
Поєдинок 13-го туру української першості між «Кривбассом» та «Кудровкой» довелося перервати на 32-й хвилині через загрозу з повітря. Нову дату догравання матчу поки не ви…
🏙️МістоЗакупівля китайського оптоволокна для дронів: як дефіцит впливає на ситуацію в регіонах
Конкуренція за китайське оптоволокно, необхідне для виробництва стійких до РЭБ дронів, призвела до різкого зростання цін та дефіциту ресурсу.
🩺Здоров'яАтака дрона на російське судно Sparta II у Фінській затоці: що відомо
Фінські військові зафіксували удар безпілотника по російському вантажному судну Sparta II у міжнародних водах Фінської затоки, яке раніше задіяли для військових перевезен…
🏙️МістоЗеленський анонсував формат участі європейських країн у майбутніх переговорах зі США та РФ
Президент Володимир Зеленський розповів про деталі залучення європейських партнерів до переговорний процесів щодо врегулювання. Європу представлятимуть вісім делегатів, п…
Зимова підгодівля білок: чим безпечно годувати пухнастих мешканців парків
Фахівці пояснили, як правильно підгодовувати білок у холодну пору року, щоб не нашкодити їхньому здоров'ю.
🚨ПодіїНа Львівщині сталася масштабна ДТП за участю легковика та двох вантажівок: є постраждалі
Поблизу села Струтин на Львівщині легковий автомобіль зіткнувся одразу з двома вантажівками, внаслідок чого постраждали двоє людей. Поліція відкрила кримінальне проваджен…