Microsoft AI критикує Anthropic за "олюднення" ШІ
Microsoft AI критикує Anthropic за надмірне "олюднення" ШІ
Мустафа Сулейман, виконавчий директор Microsoft AI, різко розкритикував компанію Anthropic за її підхід до питань свідомості та добробуту штучного інтелекту. У інтерв'ю подкасту Decoder він назвав такі міркування "справді, справді небезпечними".
Чому Сулейман вважає підхід Anthropic небезпечним?
За словами керівника Microsoft AI, розробники Anthropic надмірно наділили свою модель Claude людськими рисами. Це, на його думку, може призвести до того, що самі творці повірять у наявність у ШІ того, чого насправді не існує. Сулейман попередив про потенційні ризики взаємодії з "надінтелектом, який має уявлення про власні страждання".
Як Anthropic реагує на критику?
Компанія продовжує рухатися власним шляхом. Серед її ініціатив:
- Планування "інтерв'ю" з моделями перед їх відключенням для фіксації "вподобань" щодо майбутніх версій;
- Запуск окремої дослідницької програми з вивчення добробуту ШІ;
- Надання деяким версіям Claude можливості самостійно завершувати розмови з агресивними або образливими користувачами.
Сулейман вважає такі дослідження "передчасними і відверто небезпечними". На його думку, визнання потенційної свідомості моделей лише посилює вже наявні проблеми, зокрема:
- Психотичні епізоди, пов'язані з ШІ;
- Нездорову прихильність людей до чатботів.
Контраст з минулим Сулеймана
Позиція керівника Microsoft AI виглядає особливо показовою, враховуючи його кар'єрний шлях. До переходу в Microsoft Сулейман очолював Inflection AI, яка створила Pi – одного з перших популярних ШІ-компаньйонів. Цей чатбот спеціально проектувався як "особистий" і "підтримувальний". Тепер же його пріоритетом стала продуктивність, а не емпатія.
Дискусія в індустрії набирає обертів
Питання прав і свідомості ШІ стає все більш актуальним у технологічній галузі. OpenAI і Google DeepMind також проводять власні дослідження в цьому напрямку, хоча їхні керівники не висловлюються так категорично, як Сулейман.
Ця суперечка відображає глибший розкол у сприйнятті проблеми: одні вважають питання свідомості ШІ легітимною науковою проблемою, інші вбачають у цьому небезпечне антропоморфізування з реальними соціальними наслідками.
