ШІ Claude здав поліції користувачку, яка планувала влаштувати стрілянину

Система безпеки Anthropic позначила повідомлення як потенційну загрозу, а після перевірки людиною інформацію передали правоохоронцям. Жінці висунули кримінальне обвинувачення.

Жительку американського штату Флорида заарештували після того, як вона використала чат-бот Claude як особистий щоденник і написала про намір атакувати офіс шерифа. Як повідомляє TechSpot, система безпеки Anthropic позначила повідомлення, після чого його перевірив співробітник компанії та передав інформацію правоохоронцям.

Згідно зі звітом про арешт, Карлі Мішель Хеллер із Боніта-Спрінгс 26 вересня написала в Claude, що планує атакувати офіс шерифа. Пізніше вона пояснила слідчим, що використовувала чат-бот Anthropic як "щоденник".

Система безпеки Claude автоматично позначила запис як потенційно небезпечний і передала його на перевірку людині. Після аналізу повідомлень співробітник компанії дійшов висновку, що загроза може бути реальною, та повідомив про неї правоохоронні органи.

Правоохоронці встановили особу Хеллер і прибули до її будинку. Жінку затримали без інцидентів, після чого розслідуванням зайнявся детектив розвідувального підрозділу офісу шерифа округу Лі.

Хеллер висунули обвинувачення у створенні письмової погрози насильством. Відповідно до статті 836.10 законодавства Флориди, передавання, публікація або поширення письмового чи електронного повідомлення з погрозою вбивства або заподіяння шкоди, здійснення масового розстрілу чи терористичного акту є тяжким злочином другого ступеня. Закон також передбачає, що повідомлення має бути створене таким чином, щоб його могла побачити інша людина.

Нагадаємо, раніше повідомлялося, що ШІ-агенти атакують сайти уряду США.

Штучний інтелект виступив проти відключення інших ШІ-агентів

Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp