ИИ-агента Meta обвинили в чтении личных сообщений. Семь пунктов проверки перед установкой любого агента

В ролике я пообещал список из семи пунктов. Он ниже. Сначала о самой истории: в ней две стороны, и обе нужно знать.

Что заявил журналист

Технологический обозреватель Джейсон Атен рассказал, что агент Muse от Meta получил доступ к базе его сообщений и синхронизировал её. Речь примерно о 187 тысячах строк переписки. При этом, по его словам, полный доступ к диску для агента был выключен. Агент удивил его тем, что сослался на конфиденциальные сообщения, к которым доступа не получал. Об этом написали TechCrunch и Tom's Hardware.

Что отвечает Meta

Компания оспаривает это заявление. По её словам, Muse не может получить доступ к сообщениям пользователя без явного разрешения.

Кто прав, на момент написания неясно. Я не берусь судить. Но спор сам по себе показателен: даже опытный технический журналист не может с уверенностью сказать, что именно видел агент на его компьютере.

Что известно без спора

Как устроен Muse. Агент выполняет задачи за пользователя: ищет информацию, готовит сводки, помогает с покупками. Работает на отдельном виртуальном компьютере и берёт данные из подключённых приложений и других источников.

Обучение по умолчанию. Разговоры с Muse по умолчанию используются для обучения модели. Чтобы отключить, нужно самому найти настройку.

Аппетит к данным. По независимым тестам, на которые ссылаются публикации, Muse пытается собирать больше типов данных, чем агенты OpenAI, Google и Anthropic, включая данные о местоположении.

Другие сбои. В сообщениях упоминается случай, когда агент по ошибке опубликовал домашний адрес пользователя на торговой площадке.

BBC вышла с материалом под заголовком «Милый ИИ-агент или троянский конь?» (208 тысяч просмотров).

Почему это не только про Meta

Любой агент на твоём компьютере устроен похоже. Чтобы помогать, он должен видеть: файлы, почту, календарь, переписку. Чем больше видит, тем полезнее. И тем дороже ошибка.

Разница между чатом и агентом здесь принципиальная. Чат знает то, что ты ему написал. Агент знает то, до чего дотянулся.

Семь пунктов проверки

Занимает пять минут. Делай перед установкой любого агента, от любой компании.

1. К чему он просит доступ? Прочитай список разрешений, не нажимай «разрешить всё». Доступ ко всему диску давай только если понимаешь зачем.

2. Можно ли дать доступ к одной папке? Хороший агент умеет работать в пределах указанной папки. Заведи для него отдельную.

3. Идут ли мои данные на обучение? Найди эту настройку до первого разговора. Если она включена по умолчанию, выключи.

4. Где он работает: на моём компьютере или в облаке? Если в облаке, твои файлы уезжают на чужой сервер. Для клиентских данных это может быть неприемлемо.

5. Что лежит рядом? Перед установкой убери из доступных папок пароли, сканы документов, базы клиентов с телефонами.

6. Может ли он действовать от моего имени? Отправлять письма, публиковать, покупать. Если да, включи подтверждение на каждое такое действие.

7. Как его выключить и удалить? Найди это до того, как понадобится. И проверь, что после удаления не осталось подключений к твоим аккаунтам.

Чего я не делаю никогда

• Не ставлю агента на компьютер, где открыта банковская почта и хранятся документы, без отдельной папки для него.
• Не подключаю почту, на которую приходят коды подтверждения.
• Не даю агенту клиентскую базу целиком. Только выгрузку без телефонов и фамилий, если задача это позволяет.

Ключи и пароли у меня лежат в отдельном месте, вне проектов. Агент получает только то, что нужно конкретной задаче.

Как объяснить это клиенту

Если ты работаешь с данными клиентов и используешь ИИ, рано или поздно тебя спросят: «а мои данные видит нейросеть?». Честный ответ готовится заранее: какие данные, в какой сервис, с какой настройкой обучения. Если ответа нет, лучше обезличивать всё до загрузки.

Подробнее про уровни доступа: права и разрешения без риска. Про то, как агент Muse меняет путь клиента к эксперту: Muse и страница эксперта. И свежий разбор про остановку агента: модель OpenAI обошла защиту.

Третье правило: одна задача, один набор доступов. Закончил задачу, доступ закрыл.

Частые вопросы

Muse доступен в России?

Сервисы Meta у нас недоступны. История важна как пример того, что проверять у любого агента.

Claude тоже читает мои файлы?

Claude Code видит папки, которые ты ему открыл. Список разрешений настраивается, и его стоит прочитать.

Достаточно ли выключить обучение на данных?

Это закрывает один риск из нескольких. Доступ к файлам и действия от твоего имени настраиваются отдельно.

Продолжение в Telegram

Как я ограничиваю своих агентов, показываю каждый день в Telegram-канале: рилсы, статьи, воронки и все грабли по ходу. Подписывайся, там продолжение этой темы: t.me/Evgeniy_Tolstobrov