Google начал индексировать переписки в ChatGPT, которыми пользователи делятся с друзьями, семьёй или коллегами, — превращая приватные диалоги, изначально рассчитанные на узкий круг, в результаты поиска, доступные миллионам.
Обычный поиск по сайту Google с использованием части URL, создаваемого при нажатии кнопки «Поделиться» в ChatGPT, может вывести на страницы с разговорами, где люди раскрывают глубоко личные подробности: борьбу с зависимостью, свидетельства физического насилия или серьёзные проблемы ментального здоровья, а порой даже страхи, что за ними следят AI-модели. Хотя ChatGPT не показывает явных идентификаторов пользователей, некоторые люди сами указывают свою личную информацию в ходе чат-сессий.
Пользователь может нажать «Поделиться», чтобы отправить переписку другу через WhatsApp или сохранить ссылку для себя. Вряд ли он ожидает, что эта ссылка окажется в индексе Google и станет доступна любому желающему. Неясно, осознают ли пользователи, что после клика по «Поделиться» их беседы становятся публичными, ведь они, по всей видимости, предполагают разделить их только с узким кругом.
При текущем поиске по сайту Google найдено почти 4 500 таких разговоров, хотя во многих из них отсутствуют чувствительные данные или явные идентификаторы. Скорее всего, это не полный подсчёт, поскольку Google не индексирует всё содержимое. Из-за интимного характера переписок, в которых иногда раскрываются имена, места проживания и личные обстоятельства, Fast Company воздерживается от прямых ссылок или детального описания самих диалогов.
Особую тревогу вызывает то, что почти половина американцев в опросе признались: за последний год они обращались к большим языковым моделям за психологической поддержкой. Три четверти респондентов искали помощь при тревожности, две трети — советы по личным вопросам, а почти шесть из десяти хотели помощи при депрессии. Но в отличие от терапевтических сессий с реальным психологом, переписки с ChatGPT могут всплыть в простом поисковом запросе Google.
Google по умолчанию индексирует весь контент в открытом интернете, и владельцы сайтов могут подавать запросы на удаление страниц из выдачи. Shared-ссылки ChatGPT изначально не предназначены для публичного поиска и должны быть сознательно сделаны доступными пользователем, которого предупреждают об осторожности при отправке конфиденциальных данных, но Google внезапно начал индексировать их. Кроме того, любой созданный URL можно удалить в любой момент.