Суперкомп'ютер від Meta - материнської компанії Facebook - дозволить створити штучний інтелект, здатний працювати як людський мозок: розуміти контекст, аналізувати тексти, зображення та відео сотнями мов.
Facebook віддавна розраховує на те, що штучний інтелект допоможе йому у складному завданні модерації постів від мільярдів користувачів. Тепер його материнська компанія – Meta – робить крок, який має наблизити до цієї недосяжної, на перший погляд, мети: створення свого першого суперкомп'ютера. Штучний інтелект зможе виконувати найскладніші завдання, серед яких є аналіз шкідливого контенту. Корреспондент.net розповідає подробиці.
Найпотужніший у світі
Meta впроваджує довгострокові інвестиції в штучний інтелект з 2013 року, коли було створено дослідницьку лабораторію ШІ Facebook. 24 січня компанія оголосила, що створює суперкомп'ютер AI Research SuperCluster (RSC), призначеннням якого є використання у дослідницьких проектах у галузі штучного інтелекту.
Суперкомп'ютер, який розробляли протягом 2 років, може нарешті допомогти Meta розробити набагато потужніше програмне забезпечення для штучного інтелекту, що матиме можливості вирішувати такі складні завдання, як виявлення та припинення розпалювання ненависті в постах.
"За допомогою RSC ми можемо швидше навчати моделі [штучного інтелекту], які використовують мультимодальні сигнали – наприклад, для розуміння контексту поста, включаючи мову, зображення та тон", –
розповів CNN Business інженер-програміст Meta Шубхо Сенґупта.
Суперкомп'ютери, що мають безліч взаємопов'язаних процесорів, об'єднаних у так звані вузли, останніми роками стають дедалі популярнішими для досліджень у галузі штучного інтелекту.
Найшвидший на сьогоднішній день суперкомп'ютер у Сполучених Штатах і другий за швидкістю у світі – Summit від IBM і Міністерства енергетики США – використовували, наприклад, під час дослідження невідомих білків. Кілька великих технологічних компаній, таких як Microsoft і NVIDIA, теж мають свої суперкомп'ютери.
Суперкомп'ютер Meta // ai.facebook.com
Meta в офіційному блозі
повідомила, що станом на січень її суперкомп'ютер має 6080 графічних процесорів, розділених на 760 вузлів, що потенційно робить його одним з найпотужніших у світі.
З слів Сенґупти, їхній суперкомп'ютер у нинішньому розмірі перебуває на одному рівні із суперкомп'ютером Perlmutter, який є у Національному науково-обчислювальному центрі енергетичних досліджень і посідає п'яте місце у світі. Втім, коли його добудують приблизно в середині цього року, він матиме 16 тисяч графічних процесорів NVIDIA A100, і компанія очікує, що комп'ютер зможе забезпечувати майже п'ять екзафлопсів обчислювальної продуктивності - це п'ять квінтильйонів операцій за секунду.
"Після повного складання кластер збільшиться майже втричі. Це, як нам відомо, зробить його найшвидшим суперкомп'ютером зі штучним інтелектом у світі", – пояснив Сенґупта.
У роботі над проектом беруть участь кілька сотень фахівців, зокрема співробітники NVIDIA, Penguin Computing і Pure Storage.
Як людський мозок
За даними Meta, дослідники вже використовують суперкомп'ютер для навчання великих моделей, пов'язаних з обробкою природної мови і комп'ютерним зором під час набирання даних розміром до ексабайту, що приблизно еквівалентно 36 тисячам років відео у високій якості.
У майбутньому Meta хоче створити штучний інтелект, який зможе працювати як людський мозок і розумітиме контекст, аналізуватиме тексти, зображення та ролики сотнями мов, а також виявлятиме шкідливий контент і створюватиме нові інструменти доповненої реальності.
Суперкомп'ютер Meta // ai.facebook.com
Meta сподівається, що зрештою це дозволить компанії "створювати абсолютно нові системи штучного інтелекту", які зможуть виконувати такі складні завдання, як здійснення в реальному часі перекладу для великої групи людей, які розмовляють різними мовами.
Ранні тести показали, що суперкомп'ютер може навчати великі мовні моделі втричі швидше, ніж система, яку нині використовує компанія. Це означає, що модель ШІ, на навчання якої існуючій системі потрібно дев'ять тижнів, можна навчити на суперкомп'ютері за три тижні.
Meta сподівається, що її новий суперкомп'ютер зможе навчати моделі ШІ із трильйонами параметрів – відомо тільки про кілька моделей штучного інтелекту такого масштабу. Він також буде набагато більшим за GPT-3, матиме більшу мовну модель, ніж OpenAI, яка може генерувати текст на зразок складеного людиною, і його використовуватимуть для застосунків, призначених для вивчення мов або як податкове програмне забезпечення для фрилансерів.
Зрештою, за інформацією Meta, суперкомп'ютер приведе до технологій, які є необхідними для створення т. зв. метавсесвіту – широкомасштабного, взаємопов'язаного віртуального царства, всередині якого люди можуть ходити за допомогою цифрових аватарів і взаємодіяти з іншими людьми, які перебувають там віртуально.