О конфиденциальности, цифровых инструментах и рисках, которые не всегда видны пользователю

Недавно в рамках одного исследования мне пришлось углубиться в вопросы этики и рисков, связанные с использованием искусственного интеллекта в работе психотерапевта. Меня прежде всего интересовало не то, насколько хорошо искусственный интеллект способен анализировать терапевтический процесс, можно ли ему доверять или действительно ли он может быть нам полезен, а то, что происходит с клиентским материалом, когда мы начинаем пользоваться подобными инструментами.

Ну правда, обсуждать сегодня возможности искусственного интеллекта мне кажется почти бессмысленным: они выглядят практически бескрайними и, что самое важное, эволюционируют быстрее, чем я пишу этот текст. Поэтому перечислять всё, что ИИ уже умеет или вскоре научится делать – в том числе для психотерапевта, наверное, нет большого смысла. Гораздо интереснее поговорить о другой стороне этих возможностей: о рисках, которые возникают именно потому, что новые инструменты настолько удобны и привлекательны. Причём риски вполне поспевают в своем росте вслед за возможностями.

Но держать сами возможности в уме всё-таки важно, поскольку было бы, пожалуй, излишне оптимистично, а может быть, и просто наивно предполагать, что современные AI-инструменты не соблазняют терапевтов хотя бы попробовать их в своей работе. Можно описать сложный случай и за несколько секунд получить его разбор с разных теоретических позиций, попросить проанализировать собственные интервенции или даже превратить фрагменты диалога в своего рода учебный тренажёр, например отрабатывать параллелирование по Бьюдженталю, сравнивая разные варианты ответа клиенту. Технически ничто не мешает пойти ещё дальше и передать системе транскрипт целой сессии. А ведь чаще всего именно с этого всё и начинается.

Итак – соблазн велик, но велики и риски, причём далеко не всегда мы понимаем, в какой именно момент они возникают. Можно вполне ответственно относиться к конфиденциальности, не разглашать никаких сведений о клиентах и тщательно хранить записи, но при этом не знать, что происходит с данными после того, как мы нажали кнопку в очередном удобном приложении.

Поэтому мне кажется полезным начать не с вопроса о том, что искусственный интеллект способен сделать для психотерапевта, а с другого: что происходит с материалом клиента, когда мы передаём его цифровому инструменту?

Пять часов или несколько минут

Возьмём простой и, думаю, вполне реалистичный пример. Студенту психотерапевтической программы нужно подготовить транскрипт сессии для супервизии. Тот, кто хотя бы раз делал это вручную, знает, насколько трудоёмкой может быть такая работа: пятидесятиминутный разговор легко превращается в пять или шесть часов расшифровки, особенно если нужно достаточно точно передать реплики обоих участников.

Сегодня ту же задачу можно решить иначе. Мы загружаем аудиофайл в программу или веб-сервис, ждём несколько минут, получаем текст, перечитываем его и исправляем ошибки распознавания. Возможно, затем отдаём его ещё одному инструменту, чтобы очистить текст от артефактов распознавания и слегка отредактировать. Работа, на которую раньше уходил почти целый день, теперь может занять меньше часа.

Мне трудно представить сегодняшнего студента, который хотя бы не задумается о такой возможности. Поэтому вряд ли разумной стратегией профессионального сообщества было бы просто надеяться, что никто ею не воспользуется.

Однако именно здесь возникает вопрос, который пользователь программы может вообще себе не задать: как и, главное, где на самом деле происходит транскрибирование?

Для обычного пользователя наиболее простым решением часто оказывается облачный сервис. В таком случае модель распознавания речи работает не на его компьютере: аудиозапись отправляется на сервер компании, там обрабатывается, после чего пользователю возвращается готовый текст.

Существуют и локальные решения. Современные модели распознавания речи можно скачать и запускать непосредственно на собственном компьютере, не отправляя аудиозапись наружу (к этому варианту мы ещё вернёмся в одной из следующих статей). Однако он требует достаточных вычислительных ресурсов и некоторой настройки, тогда как облачный сервис предлагает значительно более простой сценарий: загрузить файл, нажать кнопку и через несколько минут получить результат.

С точки зрения удобства выбор кажется очевидным. С точки зрения конфиденциальности именно здесь всё только начинается.

Куда была отправлена запись, где физически находятся серверы, сохраняется ли исходный аудиофайл после завершения транскрипции и, если сохраняется, то как долго?

Остаётся ли на сервере полученный текст, создаются ли резервные копии, кто потенциально имеет доступ к этим данным, использует ли компания загруженный материал для улучшения своих моделей или иных целей?

Наконец, что означает кнопка Delete и действительно ли после её нажатия исчезают и запись, и транскрипт?

При этом можно совершенно добросовестно удалить имя клиента из готового транскрипта, заменить инициалы и убрать название места работы, не заметив, что несколькими минутами раньше полная аудиозапись психотерапевтической сессии уже была передана стороннему сервису.

Искусственный интеллект здесь только часть проблемы

Если посмотреть на ситуацию шире, становится понятно, что разговор не может ограничиваться ChatGPT, Claude или «другим вашим любимцем», да и искусственным интеллектом вообще. Цифровая среда давно стала частью психотерапевтической практики, просто многие происходящие в ней процессы остаются для нас почти невидимыми.

Мы встречаемся с клиентами через Zoom и другие платформы видеосвязи, записываем разговоры на телефоны и диктофоны, храним документы в облаке, пользуемся календарями и приложениями для заметок. Наши компьютеры и телефоны могут автоматически создавать резервные копии, а некоторые платформы предлагают транскрипцию, автоматическое резюме встречи и другие функции, предполагающие дополнительную обработку содержания разговора.

Поэтому даже психотерапевт, который принципиально никогда не использовал ChatGPT для обсуждения клиентского случая, уже может находиться внутри довольно сложной цифровой экосистемы. Привычной формулы «я храню данные клиента конфиденциально» здесь становится недостаточно, поскольку она ничего не говорит о том, где эти данные фактически находятся, сколько существует их копий и кто технически способен получить к ним доступ.

Где сейчас находятся данные моего клиента?

Если я записал вчерашнюю сессию, находится ли запись только на моём компьютере или она автоматически синхронизировалась с облаком? Если программа сделала транскрипцию, где находится полученный текст и осталась ли где-нибудь исходная запись? Если я удалил файл, исчез ли он полностью или продолжает существовать в корзине, резервной копии либо на сервере сервиса?

Отдельный вопрос возникает тогда, когда мы обсуждаем клиентский случай с искусственным интеллектом примерно так же, как могли бы обсуждать его с супервизором. Профессиональные этические правила могут при определённых условиях допускать обсуждение клиентского материала с коллегами или супервизором, но это не означает, что такое же исключение автоматически распространяется на внешнюю AI-систему. Сходство интерфейса с профессиональным разговором ничего не говорит о том, что происходит с переданными ему данными.

Если убрать имя, станет ли клиент анонимным?

Когда речь идёт уже не об аудиозаписи, а о тексте, может возникнуть ощущение, что вопрос конфиденциальности решается довольно просто: достаточно удалить имя клиента, заменить название компании на «крупную IT-компанию», город на «европейский город», а самого человека обозначить как «Клиент А».

Такая обработка действительно уменьшает количество идентифицирующей информации, однако ещё не обязательно делает материал анонимным, поскольку человек описывается далеко не только именем и фамилией. Возраст, профессия, семейная ситуация, место проживания, заболевание, необычное событие, сведения о партнёре, детях или родителях могут по отдельности казаться совершенно безобидными, но в определённом сочетании образовать достаточно узнаваемый портрет.

Психотерапевтическая сессия в этом отношении представляет собой особенно чувствительный материал. За пятьдесят минут разговора человек естественным образом сообщает множество подробностей своей жизни, которые ни он, ни терапевт обычно не воспринимают как идентификаторы, однако именно их сочетание иногда позволяет понять, о ком идёт речь.

Ещё сложнее ситуация становится тогда, когда мы имеем дело не с одним фрагментом, а с последовательностью транскриптов одного и того же клиента. В первой сессии может появиться профессия, в следующей семейная история, затем информация о переезде, конкретном событии, ребёнке или месте работы. Каждый отдельный текст может казаться достаточно обезличенным, но вместе они постепенно складываются в подробную историю жизни конкретного человека. И нередко все эти тексты ещё и лежат рядом, в одной папке или каталоге.

Здесь возникает важное различие между анонимизацией и псевдонимизацией, которому мы посвятим отдельный текст. Пока достаточно заметить, что замена имени на «Клиент А» сама по себе ещё не отвечает на главный вопрос: можно ли идентифицировать человека по оставшейся информации.

Значит ли это, что лучше вообще отказаться от цифровых инструментов?

Такой вывод был бы слишком простым и, скорее всего, мало полезным. Технология сама по себе не делает работу ни безопасной, ни небезопасной, а слово «локальный» не является синонимом слова «защищённый».

Потерянный диктофон с незашифрованной картой памяти, на которой хранятся полные записи сессий, может представлять для конфиденциальности клиентов значительно больший риск, чем правильно настроенное и хорошо защищённое облачное хранилище. Точно так же файл, лежащий на домашнем компьютере без пароля и шифрования, не становится безопасным только потому, что никогда не загружался в интернет.

Поэтому мне кажется непродуктивным делить технологии на «хорошие» локальные и «плохие» облачные или пытаться провести простую границу между использованием и неиспользованием искусственного интеллекта. Гораздо важнее понимать путь данных: что именно мы собираем, зачем это делаем, куда информация передаётся, где хранится, кто может получить к ней доступ и когда она должна быть удалена. И, конечно, не забывать, что ответственность за всё это в конечном счёте остаётся на терапевте.

Отсюда можно вывести несколько довольно простых вопросов, которые полезно задавать себе уже сейчас:

• Действительно ли мне необходимо передавать этот материал внешнему сервису?

• Понимаю ли я, куда именно он передаётся и где происходит его обработка?

• Знаю ли я, сохраняются ли исходные данные и результат обработки, а если сохраняются, то на какой срок?

• Передаю ли я минимально необходимый для моей задачи объём информации?

• Действительно ли материал анонимизирован или из него просто удалены самые очевидные идентификаторы?

• Нужна ли мне полная запись или транскрипт сессии, если для моей задачи достаточно небольшого фрагмента?

• Смогу ли я понятно объяснить клиенту, что именно происходит с его данными?

Это не инструкция по цифровой безопасности и не набор универсальных правил. Скорее способ сделать несколько обычно невидимых процессов заметными и начать задавать вопросы до того, как клиентский материал окажется за пределами нашего непосредственного контроля.

Что дальше

Этим текстом я думаю начать серию заметок об искусственном интеллекте, этике и цифровой гигиене в психотерапии. В следующих материалах будем постепенно переходить от постановки проблемы к конкретным способам её решения.

Анонимизация и псевдонимизация. Почему удаления имени недостаточно, какие сведения позволяют идентифицировать человека и что вообще можно считать достаточно анонимизированным психотерапевтическим материалом.

Транскрипция психотерапевтических сессий. Что происходит с аудиозаписью при использовании облачных сервисов, какие риски при этом возникают и какие существуют альтернативы.

Zoom, облака, резервные копии и другие привычные инструменты. Как клиентские данные путешествуют за пределами AI-сервисов и где могут оставаться их копии.

Как выбирать внешний сервис. На что смотреть в условиях использования и политике конфиденциальности, что выяснять о хранении, обработке и удалении данных и какие гарантии действительно имеют значение.

Локальная транскрипция. Как распознавать аудиозапись непосредственно на собственном компьютере, не отправляя исходный файл внешнему сервису.

Локальная анонимизация и безопасный рабочий процесс. Как связать запись, транскрипцию, предварительную обработку текста и его возможное дальнейшее использование с AI-инструментами в один понятный процесс.

И, пожалуй, главный вопрос, который будет проходить через всю эту серию, останется очень простым:

Где сейчас находятся данные моего клиента?

Вопрос уже, скорее всего, не в том, придёт ли искусственный интеллект в кабинет терапевта. Гораздо важнее понять, что происходит с информацией клиента, когда мы открываем ему дверь.