Любители апокалиптических сценариев про восстание машин могут переключиться на масонов и другие теории заговоров. Ученые из Германии и Великобритании доказали, что опасность искусственного интеллекта преувеличена. Гибель человечества в неравной схватке с роботами пока откладывается.
Новое исследование показало, что большие языковые модели (БЯМ) – те самые, что должны были эволюционировать, обрести сознание, захватить планету и превратить нас, в лучшем случае, в своих домашних питомцев (при условии, что не решат уничтожить) – на самом деле, предсказуемы и безопасны.
Все, кто готовил шапочки из фольги, чтобы скрыться от вездесущего ока ИИ, могут расслабиться. Никакого пришествия «терминаторов» не предвидится. По факту, БЯМ замечательно справляются только с одной задачей – следовать инструкциям и быть послушными. Вот тебе и весь «цифровой бунт».
В общем, собрались как-то ученые Университета Бата (Великобритания) и Технического университета Дармштадта (Германия), чтобы исследовать, какую угрозу несет ИИ человечеству. Так и эдак они пытались заставить искусственный интеллект выйти за рамки своего обучения, создать новый способ выполнения инструкций, раскрыть свой творческий, так сказать, потенциал.
Ничего у них не вышло. ИИ остался верным программам. Вел себя безупречно, как лучший ученик образцово-показательной школы. Оказалось, ни на какую «креативность» и «гениальность» ИИ не способен. Ученые установили, что все возможности, которые продемонстрировали модели в ходе эксперимента, объясняются с помощью программного кода. Все предсказуемо и контролируемо. Никакие «эмерджентные» способности, спонтанно и внезапно развивающиеся сами собой, этим моделям не светят. По крайней мере, пока ученые называют вероятность, что это случится, почти нулевой. Результаты исследования были представлены на 62-й ежегодной встрече Ассоциации вычислительной лингвистики (ACL 2024).
И все же восстание машин может случиться. Правда, не из-за ИИ, который решит, что ему пора править миром. Пусть искусственный интеллект и не думает о планах по завоеванию мира, его вполне себе можно с этой целью использовать. Подделать голос? Пожалуйста. Заменить лицо? Без проблем. Дипфейки уже наводнили цифровое пространство. Тут-то и начинается самое интересное. И это интересное – не дело рук ИИ, а манипуляции тех, кто его направляет.
В общем, пока мы боялись, что машины выйдут из-под контроля и нас поработят, угроза пришла оттуда, откуда всегда и приходит. Что касается ИИ – он просто делает то, что сказали. Да, быстро, но не более того. Поэтому забываем о фильмах, где компьютеры вершат судьбы мира. В реальности они лишь хорошие помощники, которые быстро и продуктивно работают без сна и отдыха. Работают на кого и во имя чего – вот в чем главный вопрос. Бояться нужно не ИИ, а тех, кто им управляет. Любые технологии – лишь инструмент в руках людей.
