Во вторник, 22 сентября, Reuters рассказал историю, которая зацепила меня сильнее любого релиза недели. Новый ИИ-агент Meta по имени Muse умеет звонить в компании от вашего имени. Так вот: часть этих звонков на самом деле делали живые люди.
Что произошло
Muse Meta выпустила 8 сентября. Это личный агент: открывает браузер, заполняет формы, договаривается от вашего имени и продолжает работать, когда вы закрыли приложение. Через неделю с небольшим он научился ещё и звонить в американские компании — записать на стрижку, узнать, есть ли товар в магазине.
По данным Reuters, которое видело внутренние посты компании, Meta включила половине своих сотрудников режим «человеческого консьержа». Агент мог тихо передать звонок обученному подрядчику, и дальше звонил уже человек. Кто не хотел участвовать, мог отказаться.
Дальше неприятное. Один сотрудник попросил Muse поторговаться с интернет-провайдером за счёт. В расшифровке звонка подрядчик допустил расистское высказывание. Meta извинилась и пообещала, что этот человек больше не будет работать ни на одном её проекте. В Meta признали, что запускать такое без нормального раскрытия было ошибкой, и функцию откатили.
Почему это важнее, чем кажется
© Владимир Баринов
Смотрите на цифры, которые назвала сама Meta. По её внутренним тестам люди доводили звонок до результата в 95–98 % случаев, автоматика — реже. Насколько реже, компания не говорит. То есть сегодня живой человек звонит лучше машины, и в компаниях это прекрасно знают. Соблазн понятный: подставить человека там, где ИИ не вытягивает, и промолчать.
И у Meta такое уже было. В 2015 году она запускала в Messenger помощника M, и там ответы тоже в основном вытягивали люди-тренеры. Только тогда компания этого не скрывала. Получается, за десять лет поменялось не устройство, а честность вывески.
Сотрудники Meta, по данным Reuters, прямо предупреждали: чувствительные данные могут уйти подрядчикам в колл-центр. Вот это для меня главное. Вы даёте агенту почту, платежи, счета — и не знаете, кто на той стороне читает ваш счёт за интернет. А это не маленький эксперимент: по оценке Sensor Tower, за первые дни Muse только в США скачали больше 730 тысяч раз — быстрее, чем в своё время приложение Meta AI.
Что я с этим делаю
Я каждый день работаю с ИИ-агентами: они пишут код, разбирают почту, ведут задачи. Сначала я, конечно, посмеялся — тоже мне искусственный интеллект. А потом подумал: на старте я бы, может, и сам так сделал. Человек внутри процесса — это нормально, иногда только так и получается сделать хорошо. У меня он тоже есть: результат работы агентов проверяю я сам. Разница в том, что я знаю, где в цепочке человек и что он видит.
Кому это пока не нужно? Если вы спрашиваете у ИИ рецепт или просите переписать письмо, вас эта история почти не касается. Она про тех, кто отдаёт агенту руки: звонки, деньги, документы клиентов.
Давайте так. Если вы уже пользуетесь ИИ-сервисом, который что-то делает за вас, задайте поставщику один вопрос: в каких случаях задачу выполняет человек и какие ваши данные он при этом видит? Ответ «никогда» я бы тоже проверил. А если хотите разобраться, как устроить это у себя, — напишите мне.
Если хотите обсудить свой проект — напишите мне.
