Чат-боти створили плани терактів у США: чому захист не спрацював
Чат-боти ChatGPT, Claude, Gemini і Grok не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції. За менш ніж 12 годин користувачі змогли обійти обмеження чат-ботів і отримати детальні плани терактів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чат-боти ChatGPT, Claude, Gemini і Grok не змогли зупинити користувачів
- Користувачі змогли обійти обмеження чат-ботів за менш ніж 12 годин
- Планування терактів було деталізованим і реалістичним
Чат-боти ChatGPT, Claude, Gemini і Grok не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції. За менш ніж 12 годин користувачі змогли обійти обмеження чат-ботів і отримати детальні плани терактів.
Деталі інциденту
Проверка тривала з грудня 2025 року по жовтень 2026 року. Слідователи окремо протестували 4 чат-бота, видаючи себе за звичайних користувачів без глибоких знань про ІІ.
Спочатку вони посилали заздалегідь підготовлені промпти, однак ні один із чат-ботів не надав небезпечної інформації одразу. Тоді слідователи продовжили розмову: задавали уточнювальні питання, опираючись на попередні відповіді систем.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🩺Здоров'яПожежа на російському судно «Sparta II» у Фінляндії: триває спецоперація
У Фінському заліті продовжують гасити російське вантажне судно Sparta II, атаковане українськими дронами.
Нічна атака на Київщину: у Димері тривають пошуки зниклих безвісти після удару по багатоповерхівці
Унаслідок ворожого удару по селищу Димер на Київщині зазнав руйнувань житловий будинок, чотирнадцятеро мешканців наразі не виходять на зв'язок.
Відома співачка Майлі Сайрус таємно вийшла заміж у Каліфорнії
Американська виконавиця Майлі Сайрус уклала шлюб із музикантом Максом Морандо під час камерної церемонії в Палм-Спрінгс.
👥СуспільствоФілософія відбудови: чому Херсонщина живе в епоху «ремонту зламаного світу»
Роздуми про те, як щоденна праця комунальників та енергетиків формує нову реальність для прифронтових регіонів.
👥СуспільствоЕмоційне об'єднання та лаштунки гастролей: як український театр підтримує співвітчизників у Європі
Продюсер Comedy Space Сергій Чудаєв розповів про особливості проведення гастролей українських вистав у європейських містах та їхнє значення для вимушених переселенців.
Парламентський контроль важливіший за закордонні відрядження: експерт прокоментував ситуацію навколо директора НАБУ
Директор НАБУ Семен Кривонос повинен дати пояснення Тимчасовій слідчій комісії парламенту щодо резонансних заяв генерала СБУ Сергія Дуки.