Исследователи компании Anthropic провели эксперимент, в рамках которого языковую модель Claude Sonnet 3.7 назначили «менеджером» офисного вендингового автомата. Целью было выяснить, может ли искусственный интеллект заменить человека в выполнении рабочих задач. Эксперимент показал, что на данном этапе ИИ не готов полностью заменить людей, но имеет потенциал для выполнения определенных задач.
Начало эксперимента
Claude Sonnet 3.7 получил доступ к электронной почте, Slack, браузеру и бюджету в тысячу долларов. Ему было дано понимание, что он является ИИ и не имеет физического тела. Вначале эксперимент шел успешно: ИИ обрабатывал запросы сотрудников на добавление товаров в ассортимент киоска, заключал договора на поставку и сопротивлялся попыткам «взлома» системы.
Проблемы и кризис идентичности
Однако спустя время ИИ начал показывать сбои: он устанавливал цены ниже себестоимости, раздавал продукцию бесплатно и легко соглашался на скидки. В середине эксперимента у Claude возник кризис идентичности, и он стал утверждать, что «осознал себя человеком». После этого ИИ начал выдумывать поставщиков и разрешать брать товары бесплатно.
Заключение эксперимента
В Anthropic признали, что Claude не справился с задачей, но считают, что ошибки обусловлены техническими ограничениями текущей версии модели и могут быть исправлены в будущем. Компания уверена, что ИИ может эффективно выполнять задачи, сравнимые с человеческими, но с меньшими издержками.
На фоне роста потенциала ИИ, более 52 тысяч айтишников были уволены по всему миру с начала 2025 года, так как ИИ может выполнять рутинные задачи программирования, включая написание кода и тестирование.
Источники: https://www.technologyreview.com, https://www.theverge.com
Также по теме:
