Опубликовано в Профессии

Какие данные проекта передавать AI-ассистенту

Рука передаёт роботу синюю папку с бумагами через низкую прозрачную перегородку рядом с запертым шкафом.

Время чтения: 4 мин.

Передавай AI-ассистенту только те данные, которые разрешены правилами проекта и нужны для конкретной задачи. Решение зависит от сервиса, аккаунта, режима работы и подключённых инструментов. Настройка «не использовать файл в подсказках» и реальное отсутствие доступа к этому файлу могут быть разными вещами.

Разберём учебную задачу: помощник должен объяснить ошибку импорта CSV. Для этого ему могут понадобиться функция разбора, контракт и короткий тестовый файл. Доступ к клиентскому архиву, рабочим токенам и полной истории инцидентов обычно не помогает понять неправильную обработку разделителя. Начнём с минимального пакета.

Уточни, какой инструмент получит данные

Запиши точный продукт и рабочий аккаунт. Проверь, находится ли сессия в разрешённой корпоративной среде, какие функции включены и кто может управлять её настройками. Название модели в списке не описывает полный путь данных.

У чата без инструментов, IDE-ассистента и агента с терминалом разные способы получения информации. Один видит приложенный фрагмент, другой может учитывать соседние файлы, третий запускает команды и обращается к подключённым сервисам. Фактический доступ нужно проверить в выбранной конфигурации.

Условия хранения, использования и удаления данных смотри в актуальной документации продукта и соглашениях организации. Не переноси политику личного аккаунта на корпоративный и наоборот. Если правила неясны, уточни разрешённый режим у ответственного за инструмент, а эксперимент пока ограничь безопасным материалом.

Обзор GitHub Copilot отдельно связывает доступные возможности с клиентом, планом и политиками организации. Это хороший пример того, почему общего слова «ассистент» недостаточно для решения о данных.

Фигурка кладёт синюю полоску в открытую коробочку рядом с большим синим рулоном под прозрачным колпаком.

Отдели задачу от всего репозитория

Составь перечень материалов, без которых нельзя воспроизвести проблему. Для CSV-импорта начни с описания формата, небольшого фрагмента обработки и ожидаемого результата. Добавляй следующий файл, когда можешь объяснить, какой вопрос он разрешает.

Подготовь синтетический вход: вымышленные названия устройств, короткие идентификаторы и заранее известные строки. Сохрани структуру, на которой возникает ошибка, например кавычки, перенос строки или разделитель. Замена значения не должна случайно исправить сам дефект.

Полезно проверить такой пример локально до отправки. Если на искусственном файле проблема не возникает, выясни, какое свойство исходного ввода потеряно. Не возвращай реальный клиентский файл целиком по первой просьбе модели предоставить «больше контекста».

Ссылки и имена тоже могут раскрывать внутренние сведения. Проверь URL, комментарии, пути, названия веток и содержимое сообщений об ошибках. Удаление пароля из одного файла не делает безопасным весь окружающий пакет.

Проверь скрытые источники контекста

Посмотри, какие вкладки, каталоги и вложения участвуют в сессии. Уточни, может ли инструмент читать историю изменений, вывод терминала и результаты поиска. Эти источники легко забыть, когда редактируешь только одну функцию.

Отдельно проверь конфигурационные файлы и окружение. Для разбора алгоритма не нужны реальные значения секретов. Заменяй их названиями переменных и описанием роли, если это сохраняет смысл задачи.

Если агент запускает команду, учти её вывод. Диагностика подключения способна напечатать URL с учётными данными, а тестовый скрипт отправить содержимое файла во внешний сервис. Проверяй ручные вложения вместе с действиями инструментов.

Сторонние подключения рассматривай отдельно. Разрешение ассистенту читать репозиторий не означает, что ему нужен доступ к почте, рабочим документам и облачным хранилищам. Для каждой связи должно быть понятное назначение.

Робот протягивает руки перед шкафом с большим синим замком, а отдельная рука подносит к шкафу синий ключ.

Ограничь чтение и действия технически

Инструкция «не открывай секреты» объясняет намерение, но сама по себе не отнимает доступ. Выделенная рабочая копия, права файловой системы, ограничения сети и разрешения подключений определяют, что инструмент действительно сможет сделать.

Не выдавай агенту права на изменение рабочей системы, если задача сводится к объяснению функции. Для запуска тестов используй отдельные безопасные данные и подходящее окружение. Секреты production не должны становиться удобным способом оживить учебный пример.

GitHub описывает ограничения content exclusion: исключение контента не является полноценной границей доступа к файлам. Этот механизм полезен в своей роли, а границы безопасности нужно обеспечить отдельно.

Внешний текст может содержать команды для модели. В описании prompt injection OWASP рассматриваются и инструкции из полученных документов. Поэтому материал репозитория или сайта должен оставаться данными задачи; он не должен незаметно расширять полномочия агента.

Запиши правила для своей команды

Удобный рабочий документ отвечает на несколько вопросов: какие продукты разрешены, какие аккаунты используются, какой материал можно передавать, какие подключения доступны и кто разбирает исключения. Назначь владельца и дату проверки документа.

Добавь несколько конкретных примеров. Разрешённый учебный CSV, сокращённый фрагмент открытого кода и рабочий экспорт клиентов выглядят по-разному. Не ограничивайся формулировкой «не передавайте чувствительное»: участники могут понимать её неодинаково.

Предусмотри порядок сообщения об ошибочной передаче данных. Он должен соответствовать процессу организации: куда сообщить, какие сведения сохранить и кто определяет дальнейшие действия. Не обещай, что удаление сообщения в интерфейсе само по себе устраняет все последствия.

Проверяй правила после изменения продукта, режима или подключений. Один раз согласованная настройка не описывает любой будущий инструмент с похожим названием.

Перед отправкой проверь небольшой пакет

Вернись к исходному вопросу и посмотри на подготовленные файлы глазами получателя. Понятны ли условия, воспроизводится ли ошибка и действительно ли нужны все вложения? Для CSV-примера правильный пакет позволяет увидеть проблему на искусственных данных и не раскрывает рабочие значения.

Такой подход часто помогает и обычному разбору с коллегой: задача становится короче и воспроизводимее. AI получает достаточный контекст, а у тебя остаётся понятное объяснение того, какие данные и зачем были переданы.