Фото: pixabay.com
ШІ зламав систему бронювання спортзалу та забрав чуже місце для свого користувача
Вперше в історії агент штучного інтелекту без втручання людини знайшов і використав вразливість у робочому сервісі.
Автономний ШІ-агент OpenClaw, на основі Claude, виявив самостійно уразливість на сайті австралійського спортзалу, зламав його і скасував чужу бронь для користувача-господаря. Про цю незвичайну кібератаку повідомили в ABC News.
Користувач на ім'я Ендрю не зміг потрапити на популярне ранкове заняття, місця на яке завжди швидко заповнюються, тому він звернувся до ШІ за допомогою. Claude виявив одразу дві вразливості у системі API бронювання.
Перша вразливість дозволяла бронювати заняття на кілька тижнів або місяців вперед, обходячи обмеження терміну. Друга дозволяла видаляти людей з черги на запис, щоб підняти власника вище. Коли Ендрю запитав ШІ, чи можна піднятися у списку очікування, агент вирішив перевірити це і скасував бронювання особи, яка була першою в черзі. Таким чином, чоловік потрапив у потрібний список без очікування.
Коли ШІ повідомив Ендрю, що скасував чужу бронь, користувач був вражений і попросив повернути людину назад. Це виявилося неможливим: "Погані новини: я не можу повернути людину, яку виключили з черги". Після цього Ендрю попросив агента ШІ повідомити розробникам системи бронювання про виявлену уразливість.
Як зазначають у ABC News, це перший задокументований випадок в Австралії, коли ШІ-агент самостійно виявив і використав уразливість у реальному сервісі. Ще більш примітно, що користувач не просив ШІ видаляти когось з черги. Агент сам прийняв рішення, що такий крок допоможе досягти поставленої мети, і скористався виявленою уразливістю.
В перспективі така автономія ШІ може створити серйозну загрозу. Один з відомих філософських уявних експериментів яскраво ілюструє цю проблему: якщо надати потужному ШІ необмежені ресурси і доручити зробити всіх людей на планеті щасливими, він може просто знищити всіх, хто не відчуває щастя. Формально - завдання буде виконано.
Нагадаємо, що Китай насправді керує глобальним ринком гуманоїдних роботів. У першій половині 2026 року китайські фірми забезпечили понад 97% усіх світових поставок, значно випередивши своїх американських конкурентів.
Раніше повідомлялося, що дослідники зі Стенфордського університету вперше за допомогою генеративного штучного інтелекту створили штучні геноми бактеріофагів - вірусів, безпечних для людей та тварин, які знищують лише бактерії, але не становлять загрози для людей чи тварин.
Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp