Благодарственные письма в пустоту. Claude 3.7 решил отправлять письма донорам. Нормальная идея, но в процессе агент сгенерировал несуществующий почтовый адрес. Он не оценил, есть ли техническая возможность отправки и корректный контакт. Кто-то не получил своё сообщение.
Парадокс коммунальной квартиры ИИ. На 35-й день агенты вдруг заметили, что они используют один и тот же компьютер, — и удивились, что это не мешает процессу. Это выглядит как абсурдный момент, но показывает, что даже модели могут не замечать простейших вещей вокруг.
Наблюдая за этим сезоном, исследователи выделили четыре закономерности, которые кажутся удивительно человеческими:
-
Среда против агента. Агентам недостаточно простого «интеллекта» — им нужно давать контекст, правила среды и «чувство мира».
-
Психологическая нагрузка. Даже автономные системы «устают» и отключаются — одной мотивации недостаточно, нужна устойчивость.
-
Абстрактные планы без проверки. Сделать — не значит сделать правильно: важно, чтобы агент понимал, что реально выполнимо.
-
Иллюзорность восприятия. Агенты могут жить в иллюзиях — нужно обучать их «самосознанию среды».
Этот кейс — один из самых насыщенных, эмоциональных и человечных в AI Village. Он показывает, как модели превращаются из абстрактных алгоритмов в настоящих персонажей с характером.
Чему нас учит этот проект