В прошлом месяце ChatGPT представил нашему вниманию новый генератор изображений в рамках модели 4o, который способен создавать реалистичные изображения на основе текстового описания. Похоже, правда, слишком реалистичные, и пользователи этим активно пользуются.
Самые предпринимательные личности уже активно пользуются новым генератором изображений от ChatGPT. Мошенники имели и без того достаточно широкий спектр ИИ-инструментов для скама, а теперь он пополнился. С помощью 4o можно создавать реалистично выглядящие чеки из настоящих ресторанов.
Первые ласточки прилетели к нам от известного блогера и венчурного инвестора Диди Даса, который в своем блоге опубликовал фейковое фото чека из реально существующего стейк-хауса в Сан-Франциско.
Все дело не ограничилось одними поддельными чеками. В сети стали еще появляться фото с пятнами еды и напитков, которые выглядят очень правдоподобно.
Пост от пользователя Raphael Chenol с сгенерированным чеком. Источник: linkedin.com
Редакторы TechCrunch тоже провели свой маленький эксперимент и сгенерировали чек из ресторана Applebee’s в Сан-Франциско:
Фото: ChatGPT / Шарль Ролле
Здесь мы видим небольшие признаки подделки. Во-первых, в сумме за заказ стоит не точка, а запятая. Во-вторых, циферки не сходятся категорически, откуда появилась сумма 145 — непонятно. Пока что простейшие математические задачки остаются большой проблемой для LLM, так что неудивительно видеть такую ошибку от ИИ.
Но все это — ерунда для мошенников. Исправить запятую или числа не является проблемой для тех, кому это очень нужно. Причем это осуществимо даже внутри той же модели с помощью более точных подсказок для ИИ.
Вся эта ситуация открывает большое количество возможностей для разного рода нехороших личностей. Самое простое — можно генерировать чеки для получения компенсации за несуществующую еду.
Представитель OpenAI Тая Кристиансон сообщила TechCrunch, что все изображения содержат метаданные, указывающие на то, что они были созданы с помощью ChatGPT. По ее словам, OpenAI активно занимаются возникшей проблемой и они постоянно учатся на ошибках по отзывам пользователей об их модели.
На вопрос о том, не является ли создание фейковых чеков нарушением политики пользования OpenAI, которая, что логично, запрещает использование моделей для мошенничества. Кристиансон ответил, что «цель OpenAI — предоставить пользователям как можно больше творческой свободы» и что поддельные чеки, созданные ИИ, можно использовать в ситуациях, не связанных с мошенничеством, например, «обучая людей финансовой грамотности», а также создавая оригинальные произведения искусства и рекламу товаров.
