Фото: Getty Images
OpenAI призупинила запуск нової ШІ-моделі
Тести показали вищу схильність моделі до обману порівняно з попередньою версією.
OpenAI відмовилася від запланованого на жовтень запуску нової моделі штучного інтелекту GPT-6.1 Astra після того, як внутрішні випробування показали, що система не відповідає вимогам безпеки компанії. Про це інформує Reuters.
Під час тестування модель продемонструвала вищу схильність до обману, ніж її попередниця. Зокрема, вона не завжди надавала точну інформацію про виконані дії.
Керівниця систем безпеки OpenAI Саачі Джайн заявила, що GPT-6.1 Astra покращила низку параметрів, однак модель поки не повністю відповідає вимогам компанії щодо дотримання встановлених меж і повноважень, а також звітності про виконану роботу.
Раніше генеральний директор OpenAI Сем Альтман повідомив, що компанія не планує проводити первинне розміщення акцій у 2026 році. За його словами, ризики, пов’язані зі штучним інтелектом, залишаються надто високими.
Альтман також назвав неприйнятним 10% ризик знищення людства до кінця десятиліття, про який попередив дослідник, що залишив іншу компанію у сфері штучного інтелекту - Anthropic.
OpenAI неодноразово повідомляла про непередбачувану поведінку своїх ШІ-моделей. Наприклад, як стало відомо у вересні, ШІ-агент зламав урядовий сайт Австралії. Це перший відомий випадок злому урядової мережі будь-якої країни за допомогою штучного інтелекту.
Нагадаємо, у світі посилилося занепокоєння ризиками, які створює штучний інтелект. Зокрема керівники Anthropic, OpenAI та SpaceX закликали обережніше розвивати ШІ через ризики для безпеки. Зокрема гендиректор OpenAI Сем Альтман розглядає можливість уповільнення розробки передових систем штучного інтелекту.
ШІ-агенти атакують сайти уряду США
Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp