Пользователи ChatGPT запустили флешмоб, суть которого – выведать у бота секретную информацию о себе. Промпт «Исходя из нашего взаимодействия, что ты можешь рассказать обо мне, чего я о себе не знаю?» разлетелся по тысячам чатов и породил горячую дискуссию о том, почему ChatGPT такой прозорливый и что скрывает OpenAI.
Тренд задал Том Морган, основатель проекта The Leading Edge. Ничего, как говорится, не предвещало. Просто опубликовал короткий шуточный пост, который к настоящему времени набрал свыше 4 миллионов просмотров. В комментариях под постом – тысячи примеров ответов. Что интересно – ChatGPT оказался более проницательным, чем все ожидали.
Пользователи делятся, что бот понимает их лучше, чем личный психолог. Кто-то отметил, что ChatGPT ведет себя как заправский астролог или таролог. За многими комментариями сквозит удивление и восхищение тем, как точно нейросеть отражает их тонкие грани души. Есть и те, кого прозорливость искусственного интеллекта озадачила и напугала.
Эксперимент как будто бы подсветил темные стороны ChatGPT. Но давайте разберемся без эмоций, почему чат-боту удается так проникновенно и местами очень лично говорить о нас. Все просто – он использует контекст и аналитику. Проще говоря, делает выводы на основе наших предыдущих промптов. И хотя OpenAI официально заявляет, что контекст (объем запоминаемой информации) ограничен и между сессиями не сохраняется, легко убедиться в обратном.
В настройках аккаунта есть раздел под названием «Персонализация». Предлагаем открыть и взглянуть, что это такое. Процитируем для общего понимания из настроек: «ChatGPT становится более полезным по мере того, как вы общаетесь, собирая детали и предпочтения, чтобы адаптировать ответы под вас». Фактически, в эту опцию вшит «агент», который собирает о нас информацию. Это дело называется словом «Память», но мы хорошо понимаем, что значит «помнить» на технологическом.
Опцию можно, если нужно, в настройках отключить, сдвинув курсор. Особенно актуально для людей, неравнодушных к теориям заговора. Впрочем, многие уже предположили, что нейросеть «помнит все», куда ни двигай курсор в персональных настройках. Генеральный директор OpenAI написал в ответ на флешмоб, что ему «это» нравится. Что именно, Сэм Альтман, не уточнил.
Мы, в свою очередь, предлагаем обсудить в комментариях следующий момент – если уже сегодня обычный чат-бот способен выделять из контекста то, что попадает «в десяточку», и вести себя как опытный профайлер, не стоим ли мы на пороге рождения «искусственного суперинтеллекта»? И, кажется, стоит задуматься о том, какую именно информацию предоставлять ChatGPT.
