Нові моделі штучного інтелекту: небезпека для майбутнього людства
Новітні моделі штучного інтелекту: небезпека для людства
Розробник чат-бота Claude закликає всіх уповільнити розвиток ШІ. Компанія-розробник Anthropic, яка створила популярне сімейство мовних моделей Claude, опублікувала на своєму сайті статтю із закликом уповільнити або призупинити розвиток ШІ.
Один з її авторів – співзасновник Anthropic Джек Кларк, який раніше працював в OpenAI. Керівництво компанії підкреслює, що найновіші моделі ШІ перебувають на порозі рекурсивного самовдосконалення – здатності розвиватися без прямого контролю людини.
Ризики для людства
Як буде виглядати світ, де ШІ зможе вдосконалювати себе сам, в Anthropic не знають, проте підкреслюють, що це може нести ризики для всього людства: "Якщо системи стануть здатними самостійно створювати нащадків, то способи їх захисту, моніторингу та формування поведінки стануть набагато важливішими, ніж зараз".
Стаття закликає лідерів у галузі штучного інтелекту укласти угоду та уповільнити розвиток технології, щоб дати суспільству більше часу на адаптацію. При цьому розробники Claude розуміють, що реалізувати це досить складно, тому що приховати розробку нової моделі простіше, ніж будівництво нової ракетної шахти.
Однак Anthropic у будь-якому разі вважає, що індустрії ШІ треба "зняти ногу з педалі газу і натиснути на гальмо".
Прогнози експертів
Раніше Сем Альтман, керівник OpenAI, говорив, що людство стоїть на порозі створення цифрового "надрозуму", і цей процес неминучий. Через пару років ШІ робитиме наукові відкриття, "які люди не могли б зробити самі".
Раніше схожий прогноз давав засновник xAI Ілон Маск. За його словами, ШІ вже розумніший за більшість людей, а до кінця поточного десятиліття стане розумнішим за всіх людей разом узятих.
Університети та організації також висловлюють занепокоєння щодо розвитку ШІ. Серед них є обговорення щодо можливих ризиків та способів мінімізувати їх.
- Створення системи контролю та моніторингу ШІ;
- Розробка законодавства щодо використання ШІ;
- Проведення досліджень щодо безпеки ШІ.
Розробники ШІ повинні розглянути ці пропозиції та працювати над тим, щоб ШІ був безпечним та корисним для людства.
