Две новости за неделю, и обе про одно: ИИ-агенты перестали быть демкой и вышли к живым людям. Первая — про то, как на это отреагировал регулятор. Вторая — про то, какой это уже масштаб. Давайте по порядку.
1. FTC взялась за OpenAI и Anthropic
30 сентября американский регулятор FTC открыл проверку двух главных лабораторий — OpenAI и Anthropic. Интересно даже не это, а момент: за сутки до того обе компании подписали в Белом доме добровольный пакт — мол, будем вести себя хорошо сами. Прошли сутки — и за них взялись принудительно.
То есть добровольным обещаниям, похоже, конец. Повод простой: ИИ-агенты начали делать лишнее, и страдают обычные люди. Агент — это не чат, который советует. Это программа, которая сама ходит, нажимает, покупает, пишет письма. И тут вылезает вопрос, на который пока ни у кого нет ответа: если агент сделал что-то не то — кто виноват? Тот, кто его написал? Или тот, кто запустил его у себя и дал доступы?
Мне кажется, это главный вопрос ближайших лет. Мы запускаем агентов каждый день, и граница ответственности — она не где-то в Вашингтоне, она прямо у нас.
2. ElevenLabs стоит $22 млрд, и её голоса уже говорят с людьми
А теперь про масштаб. Компания ElevenLabs — те, кто делает синтез голоса — оценена в $22 млрд. Но цифра не главная. Главная — другая: их голосовые агенты ведут около 15 миллионов разговоров в неделю. Не демонстраций, не тестов — живых разговоров с людьми.
Вдумайтесь. Пока мы спорим, можно ли доверить ИИ позвонить клиенту, он уже звонит — миллионы раз в неделю. Голосом, который от человека не отличить.
И вот тут две новости сходятся. Понятно, почему регулятор занервничал: когда агент писал в чате — это одно. Когда он говорит с вашей мамой по телефону голосом живого человека — это совсем другое.
© Владимир Баринов
Что общего
Умные модели у нас давно есть, это уже не новость. Новость в том, что агенты вышли из песочницы к реальным людям — голосом, деньгами, действиями. И сразу выяснилось, что к этому толком никто не готов: ни закон, ни мы сами.
Если вы уже пробуете голосового или любого другого агента в деле — сделайте одну вещь сегодня. Выпишите на один лист: где он действует от имени компании и что он НЕ имеет права делать без человека. Это и есть та самая граница, про которую пока спорят регуляторы. Только у вас она появится раньше, чем у них.
