Однажды на работе я готовил ответы на две претензии. Первая была написана с помощью ИИ, а ответ на вторую я сам готовил с помощью ИИ. Но сначала — о главной ловушке нейросетей.

Ловушка предвзятости

Качество ответа ИИ напрямую зависит не только от заложенных в него данных, но и от того, как вы формулируете запрос. Принцип «мусор на входе — мусор на выходе» работает и здесь. Но есть и более тонкий нюанс: ИИ по своей природе стремится быть полезным и часто подстраивается под контекст вопроса.

Если задавать наводящие вопросы или настойчиво менять формулировки, можно заставить модель подтвердить практически любую теорию. Захотите доказать, что снег черный, — начните методично «дожимать» ИИ уточнениями про сажу, ночное освещение или особые физические условия. Через несколько итераций вы получите желаемое подтверждение.

Поэтому ИИ часто выдает не объективную истину, а отражение ваших собственных ожиданий. Умение пользоваться нейросетью сегодня — это способность сохранять критическое мышление и задавать беспристрастные вопросы, чтобы не оказаться в плену собственных заблуждений, подтвержденных красноречивым алгоритмом.

Случай 1: претензия со ссылками на несуществующие нормы

Клиент «убедил» ИИ, что его права нарушены, и потребовал выплатить неустойку по Закону о защите прав потребителей — 1% за каждый день.

Но нормы, на которые он ссылался, и их цитаты не совпадали. Статьи закона, на которые была ссылка, регулировали совсем другое и к его ситуации не относились. А процитированных норм в законе не было вовсе.

Поэтому мы с чистой совестью отказали в удовлетворении требований и порекомендовали не доверять ИИ безоглядно.

Случай 2: ИИ помог подготовить ответ

Клиент компании, где я работал, попал в ДТП на автомобиле, оснащенном, как и многие современные машины, системами помощи водителю. В претензии он утверждал, что одна из систем не сработала, и поэтому произошло ДТП.

Здесь ИИ помог нам подробно объяснить, в каких случаях такая система срабатывает, в каких может не сработать и какие условия влияют на ее работу.

В завершение мы добавили главное:

наличие электронных помощников не освобождает водителя от обязанности убедиться в безопасности маневра. Система — это подстраховка, а не замена глазам и опыту водителя. Чрезмерное доверие электронике ведет к потере бдительности. Управление автомобилем — активный процесс, и окончательное решение о маневре всегда принимает человек.

Вывод

ИИ может быть и слабым местом, и сильной стороной — все зависит от того, кто им пользуется. Человек, который хочет услышать подтверждение своей правоты, получит красиво оформленную претензию с выдуманными нормами. Юрист, который понимает суть вопроса и проверяет каждую ссылку, получит быстрого и полезного помощника.

О том, как я использую ИИ в ежедневной работе, я подробно писал в статье «Как я использую искусственный интеллект в работе юриста: без пафоса и сказок».