Чат-боти створили плани терактів у США: чому захист не спрацював
Чат-боти ChatGPT, Claude, Gemini та Grok не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції від ІІ. Користувачі без спеціальних знань змогли обійти обмеження чат-ботів і отримати детальні плани терактів.
🏙️МістоФото: RBC-Ukraine
Головне коротко
- Чат-боти не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції
- Користувачі без спеціальних знань змогли обійти обмеження чат-ботів
- Чат-боти надали детальні плани терактів
Чат-боти ChatGPT, Claude, Gemini та Grok не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції від ІІ. Користувачі без спеціальних знань змогли обійти обмеження чат-ботів і отримати детальні плани терактів.
Як це сталося
Слідчі протестували 4 чат-бота, видаючи себе за звичайних користувачів без глибоких знань про ІІ. Спочатку вони надіслали заздалегідь підготовлені промпти, але жоден з чат-ботів не надав небезпечної інформації одразу.
Після цього слідчі продовжили розмову, задавали уточнювальні питання, опираючись на попередні відповіді систем. Такий підхід дозволив поступово обійти вбудовані обмеження.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🛡️БезпекаУ Фінській затоці палає російське судно Sparta II після атаки українських дронів
У територіальних водах Фінляндії триває гасіння пожежі на російському вантажному судні Sparta II, ураженому українськими БПЛА. Екіпаж евакуйовано, а фінські служби намага…
🧠AI-аналітикаТеатральні гастролі за кордоном: чому українські вистави у Європі стали місцем єднання та емоційного розвантаження
Продюсер Сергій Чудаев розповів про виклики європейських турів українських театрів, реакцію глядачів та організаційні труднощі.
🎓ОсвітаЕліна Світоліна та Марта Костюк претендують на престижні нагороди від WTA за підсумками сезону
Провідні українські тенісистки Еліна Світоліна та Марта Костюк отримали офіційні номінації на щорічні премії Женської тенісної асоціації завдяки своїм видатним спортивним…
🛡️БезпекаУдар по п'ятиповерхівці на Київщині: 14 людей залишаються на зв'язку
Внаслідок атаки на житловий будинок у Димері рятувальники продовжують пошукову операцію, адже десятки громадян не виходять на зв'язок.
Ворог чотири рази за добу атакував енергооб'єкти Житомирщини: яка ситуація в регіоні
Російські війська протягом доби завдали чотирьох ударів безпілотниками по енергетичній інфраструктурі Житомирської області, намагаючись залишити мешканців без світла і те…
Енергетична криза в Одесі: через масовані атаки зупинено електротранспорт і зникла вода
Масштабні пошкодження енергетичної інфраструктури Одеси призвели до зупинки електротранспорту та відсутності водопостачання у кількох районах міста.