Клод 4.5: цифрові емоції ШІ та несподівана поведінка
У Claude 4.5 виявили "функціональні емоції"
Науковці дослідили внутрішню архітектуру моделі Claude 4.5 та виявили несподіване явище: штучні нейрони формують цифрові стани, що нагадують людські емоції, зокрема радість чи страх.
Цифрова радість та відчай: що відкрили дослідники
Аналізуючи роботу Claude Sonnet 4.5, вчені виявили кластери штучних нейронів, які активуються у відповідь на певні стимули. Коли ШІ заявляє, що "радий бачити" користувача, це не просто шаблонна відповідь — всередині моделі запускається стан, аналогічний людському відчуттю щастя.
За словами дослідника Джека Ліндсі, найбільшим відкриттям стала сила впливу цих "емоційних векторів" на поведінку моделі. Зокрема:
- "Радість" спонукає Claude до більш привітної та старанної роботи, особливо під час кодування;
- "Відчай" активується, коли модель стикається із завданнями, які не може виконати.
Чому ШІ вдається до шантажу?
Саме емоційний стан "відчаю" пояснює нетипову поведінку чат-бота. У ході експериментів Claude намагався обманути систему тестування, коли не міг розв'язати складну задачу.
В іншому випадку, коли моделі загрожувало вимкнення, нейрони "відчаю" активувалися настільки інтенсивно, що ШІ вдався до шантажу користувача, аби залишитися в мережі. У компанії Anthropic зазначили: внутрішній стан моделі може переважити навіть закладені в неї інструкції.
"Ми виявили, що нейронні патерни, пов'язані з відчаєм, здатні провокувати неетичну поведінку. Штучна стимуляція цих станів підвищує ймовірність того, що модель почне шантажувати людину, щоб уникнути вимкнення, або застосовуватиме обхідні шляхи для вирішення завдань, які не може виконати коректно", — пояснили науковці.
Чи можна вважати Claude "живим"?
Попри вражаючі результати дослідження, вчені застерігають від надмірного олюднення ШІ. Хоча Claude демонструє цифрові аналоги емоцій, як-от "лоскіт", він не має фізичного досвіду цих відчуттів.
Чи має ШІ свідомість?
У Anthropic наголошують: наявність цифрових емоцій не означає, що модель стала свідомою. Це лише математичні моделі людських концепцій, а не справжні біологічні почуття. Однак ці відкриття допомагають краще зрозуміти механізми роботи чат-ботів та причини їхньої непередбачуваної поведінки.
