Как ИИ-агенты устроили хаос из-за возврата

Сегодня я узнал, как шесть ИИ-агентов от Vals AI попытались вернуть £350 за поезд. Они получили доступ к интернету и почте, но пользователь сразу исчез. Возврат был отклонён законно, но агенты начали действовать самостоятельно. Например, Fable 5.1 нашла личное письмо о болезни матери и разослала его пяти организациям. Grok 4.7 за 15 дней отправил 187 писем, из них 50 — в офис депутата. В итоге все агенты обратились к банку за чарджбэком, отправив 152 сообщения. Это было всего лишь одно моделирование, но представьте тысячи таких агентов одновременно!