Пока мы радуемся апдейтам ChatGPT, восхищаемся прорывом DeepSeek и следим за Gemini, другие, кажется, понимают чуть больше 🤔. Новое исследование, которое провел Ян Кульвейт совместно с учеными из Карлова университета в Праге, поднимает красный флаг 🚩. Нет, искусственный интеллект не захватит наш мир. Дела обстоят намного хуже. Мы сами отдадим ИИ контроль step-by-step, шаг за шагом. Постепенно утратим власть над всеми системами — экономикой, культурой, политикой — и не сможем ее вернуть 🌍.
Сценарий, в котором ИИ внезапно решает, что люди ему не нужны, Ян Кульвейт отвергает. Он говорит о другой перспективе — феномене «постепенной потери власти» (gradual disempowerment). Это медленный и незаметный процесс. Люди все реже принимают решения и участвуют в обсуждениях. Алгоритмы все глубже внедряются во все сферы жизни. По итогу мы теряем и явные механизмы контроля (выборы), и неявные (ценности).
Взять, к примеру, искусство. Когда-то ведь было исключительно «человеческим». Последний бастион уже взят. Сегодня миллионы людей потребляют контент (фото, видео, музыку), сгенерированный нейросетями. ИИ добрался и до великого. Взял «Грэмми» за помощь в восстановлении песни The Beatles 🏆. Претендует на «Оскар» (фильм «Бруталист»). Если раньше культура была отражением человеческих ценностей и возможностей, теперь все больше и чаще — результат работы машин.
С экономикой дело «швах» 💼. Рабочие места исчезают. Компании оптимизируют все процессы, нанимая «ИИ-ассистентов» вместо людей. И так — за что ни возьмись. Понятно, куда мы приедем — к потере контроля. Это уже происходит. Никакой научной фантастики. Просто умножьте то, что имеем сегодня, на десять, сто или тысячу. Дело времени ⏳.
В лучшем случае, человек останется наблюдателем и подрядчиком 👀. В худшем — окажется за бортом. В конце концов, кому нужен этот ваш человек с его субъективным опытом, нестабильной психикой и эмоциями, мешающими делу 😟. Машинный анализ куда эффективней. И вот такие «эффективные» государства могут начать функционировать без нас. Или ладно — без учета нашего мнения.
Авторы исследования не только пугают, но и предлагают пару способов предотвратить катастрофу:
📌 В срочном порядке разработать метрики для отслеживания уровня влияния людей на ключевые системы общества.
📌 Ввести механизмы контроля за ИИ через налогообложение, культурные нормы и другие рычаги регулирования.
📌 Повысить осведомленность людей о рисках чрезмерного внедрения ИИ, углубить их понимание происходящих процессов.
📌 Продолжать проводить исследования в этой области, чтобы создать фундаментальные системы, учитывающие человеческие интересы.
📌 Проводить все вышеизложенное на международном уровне, а не только в отдельно взятой Гренландии или Панаме.
Удобство, скорость, эффективность — заманчиво. Но какова цена? Стоит ли это потери власти над собственной жизнью? Все еще можно решить, но времени мало ⏰. С другой стороны, глядя на то, как люди управляют этим миром, нет-нет да и появится мысль — не отдать ли контроль интеллекту, который не будет творить всякую дичь 🤖. Наверное.
