«Вырастят поколение актеров или невротиков», – отреагировали в комментах на Reddit на инновацию в китайских школах. В общем, там теперь будет к доске вызывать нейросеть. Искусственный интеллект обязали «сканировать» учеников и распознавать среди них подозрительных, то есть неподготовленных.
Речь идет о системе, анализирующей поведение и эмоции школьников. Алгоритмы изучают мимику и способны на основе такого анализа установить психологический статус – уверенность, волнение, раздражение, радость. Экспериментальные классы уже запущены. В видеороликах, размещенных на YouTube, видно, что в помещениях установлены камеры, оснащенные системой ИИ.
Пока непонятно, как именно нейронка отличает неподготовленных учеников от тех, кто в стрессе по другим обстоятельствам. Как и остался открытым вопрос, насколько такое вторжение в хрупкий мир детской души можно назвать гуманной историей. Наконец, и это, кажется, главное – не спровоцируют ли подобные эксперименты штормовую волну «казаться, а не быть». Не нужно быть психологом, чтобы сделать логический вывод – такие технологии вряд ли стимулируют быть ответственным. Скорее, просто «натаскивают» людей (в конкретной ситуации – детей) вести себя «подобающим образом».
И это не первая кринжовая история made in China. Один только «рейтинг социального доверия» чего стоит. Как обычно, идея хорошая, а исполнение получилось не очень. Этот рейтинг вводился с целью определять благонадежность граждан Поднебесной. Прежде всего, с экономической точки зрения. Но эксперимент, как говорится, вышел из-под контроля и зашел за рамки экономики. В целом неплохая инициатива залезла в личную жизнь китайских людей, разделив их на «образцовых», «ненадежных» и что-то среднее между ними.
В формировании этого рейтинга принимает участие информация из разных источников – от загсов до налоговой, включая «цифровые следы» (шопинг в онлайне, история поисков и т.д.). В крупных городах системой сбора и обработки информации о гражданах все чаще занимается искусственный интеллект. В деревнях пока еще все вручную, порой буквально – по улицам и рынкам ходят наблюдатели и фиксируют все на бумаге.
В одном из эпизодов «Черного зеркала» как раз изобразили высокотехнологичный мир, в котором работает подобная система социального рейтинга. Правда, оценки там присваивал не искусственный интеллект, а люди, с которыми человек коммуницировал. Рейтинг влиял на репутацию и доступ к социальным благам. «Изгои» были во всем ограничены.
В Китае не так драматично, но вот добрались до детей, вылавливая «подозрительных». Затея сделать общество более дисциплинированным звучит хорошо, но лепить из детей «образцовых» – ну такое. Жизнь под камерой, которая изучает тонкие грани души, конечно, скажется на развитии психики и приведет к деформации детских характеров.
Мнение редакции может отличаться от вашего 🙂. Готовы обсудить в комментариях!
