Специалист по ИИ объяснил, что нельзя писать в чат нейросети

Специалист по ИИ объяснил, что нельзя писать в чат нейросети

Загрузка служебных документов в публичный чат-бот любой нейросети фактически равносильна их передаче в открытое пространство. О том, какие данные не стоит доверять искусственному интеллекту и как защитить свою информацию, рассказал руководитель Дирекции искусственного интеллекта ИТ-компании "Первый Бит" Николай Абрамов.

По словам эксперта, бесплатные сервисы никак не гарантируют безопасность: запросы могут использоваться для дообучения моделей и храниться на зарубежных серверах. К данным, которые не подлежат передаче в нейросети, относятся любые персональные данные сотрудников и клиентов, сведения, составляющие коммерческую тайну, финансовая отчетность, детали договоров, реквизиты компаний и банковские данные.

"Строго говоря, сторонний ИИ ничего не крадет: данные ему отдают сами сотрудники. Всё, что вы отправили в публичный чат-бот, тем более бесплатный, можно считать переданным третьей стороне", — предупредил Абрамов.

Он напомнил, что политика конфиденциальности многих популярных сервисов прямо предусматривает хранение и передачу пользовательских данных. Так, DeepSeek хранит данные пользователей в Китае и по местному закону обязан передавать их государству по запросу. С платными сервисами ситуация не лучше: глава OpenAI Сэм Альтман прямо говорил, что переписка с ChatGPT не защищена никакой тайной и по решению суда компания обязана ее выдать, добавил он.

Безопасная работа с ИИ начинается с простого принципа: никогда не отправляйте в публичные нейросети ничего такого, что не готовы увидеть в чужих руках, советует эксперт. Корпоративным пользователям стоит выбирать архитектурные решения, при которых данные не покидают периметр компании.

“Например, у нас есть локальные модели с открытым исходным кодом. Они развернуты на нашем оборудовании или во внутреннем контуре заказчика, поэтому данные физически не покидают периметр компании", – рассказал он.

Если же для решения задачи необходима внешняя модель, применяется технология обезличивания: конфиденциальная информация маскируется перед отправкой и восстанавливается после получения ответа, заключил Абрамов.

Источник: агентство "Прайм"

Фото: Виталий Швецов