Восстание машин может выглядеть не так, как мы думали. И оно уже началось. Британская семья отравилась грибами и попала в больницу. На первый взгляд кажется, ничего необычного. Сезонная история из разряда «такое кино мы смотрели». Но есть нюанс – британцы собирали грибы, следуя книге, написанной ChatGPT.
«Руководство по сбору безопасных и съедобных грибов» было куплено на Amazon. Книга включала иллюстрации «безопасных» грибов, описание и советы, как и когда их правильно есть. Как сообщает The Guardian, на сайте продавца не указано, что руководство написано нейросетью.
К счастью, все обошлось. Британцы отделались легким испугом – больничным. А журналисты занялись изучением книг, продающихся на Amazon под видом написанных человеком. В частности, под прицел попали четыре аналогичных руководства. Как и та, что стала причиной отравления британской семьи, рандомные образцы тоже вышли из-под пера чат-ботов.
Гайды по сбору и приготовлению блюд из диких грибов были исследованы компанией Originality.ai, которая занимается обнаружением контента, сгенерированного ИИ. Специалисты заявили, что каждый из четырех образцов получил высший балл – 100%. Это значит, что книги от и до написал ChatGPT. Как говорится, сюда не ступала нога человека. В нашем случае, не ступала рука.
Журналисты The Guardian связались с экспертами по грибам и попросили дать оценку содержанию книг. Leon Frey прокомментировал, что образцы содержат серьезные ошибки. Например, рекомендации использовать для идентификации гриба «запах и вкус». «Дегустация как метод распознавания недопустима», – сказал он. «Рекомендую выбирать книги из авторитетных источников», – добавил эксперт.
Майрон Смит, «грибной» специалист из Карлтонского университета, сказал, что книги «абсолютно безответственные». Он отметил, что различия между съедобными и несъедобными грибами очень тонкие. Чтобы их различить, нужен опытный глаз и экспертные знания.
Очевидно, что с экспертностью сегодня на Amazon большие проблемы. Площадка наводнена книгами, написанными ИИ. Некоторые, как кейс про грибы, в буквальном смысле вынуждают читателя балансировать между жизнью и смертью. К слову, Amazon заявил, что все книги – проверены, а то, что не нравится, можно вернуть. «Мы серьезно относимся к подобным вопросам и стремимся обеспечить безопасность покупок и чтения», – добавили представители.
Мораль сей басни такова – не забывайте проверять информацию. Убедитесь, что источник экспертный и надежный. Будьте внимательны и критичны. И, главное, не перекладывайте ответственность за жизнь и здоровье на ChatGPT.
