Китайский DeepSeek с ноги выбил дверь в индустрию ИИ и произвел фурор в Кремниевой долине со своим R1. Только, кажется, все забыли проверить, насколько вообще безопасно пользоваться этой новой дивной моделью. И речь здесь вовсе не о великой и ужасной китайской партии 🍚 и ее стремлении собирать все возможные данные пользователей.

6 февраля на подкасте ChinaTalk Джордан Шнайдер взял интервью у Дарио Амодея, генерального директора Anthropic, где он высказал серьезные опасения ❗, связанные с новоявленной китайской моделью от DeepSeek.

До этого рынок ИИ был фактически монополизирован компаниями из США – Anthropic, OpenAI, Google, возможно, Meta и xAI. Но все изменилось, когда появился DeepSeek. И теперь мы стоим на пороге новой гонки – искусственного интеллекта. Чтобы создать дистанцию между американскими компаниями и китайской, он предлагает усилить контроль📵 экспорта микросхем и чипов из США, т.е. искусственно затормозить развитие технологии за пределами Америки. Ускорить процесс собственных разработок он тоже предлагает, но – не во вред безопасности.

Почему же генеральный директор соревнуется только с DeepSeek? Амодей объясняет это довольно просто: все американские компании подчинены одному законодательству 👨‍⚖️. Опасного соревнования во вред безопасности продукта в таких условиях не выйдет. А вот примирение с Китаем Дарио пока что видит только в одном случае – если найдутся неопровержимые доказательства того, что ИИ опасен, «например, на уровне человеческой цивилизации» 🤖. Однако сейчас такой угрозы масштаба Альтрона нет, и державы не сядут за стол переговоров.

Несмотря на то, что Дарио признает талант разработчиков DeepSeek 🤓, в конце интервью он взывает к благоразумию. В ходе оценки моделей на предмет того, возможно ли с их помощью найти запрещённую информацию о биологическом оружии, которую «нельзя найти в Google или в учебниках», модель DeepSeek показала худший результат за все время тестирования. У нее просто нет ограничений на поиск такого рода данных. Да, Амодей не утверждает, что модель несет опасность уже сейчас, но кто знает, что будет всего через год?

Отметим, что не только Дарио Амодей обеспокоен небезопасностью внезапно ставшей популярной модели R1. Так, компания Cisco в недавно опубликованном исследовании заявила, что модель от DeepSeek в 100% случаев была взломана 🙈 – она не заблокировала ни один вредоносный запрос, с помощью DeepSeek были получены данные о киберпреступности и других незаконных действиях. ВМС США и Пентагон вообще начали запрещать использование китайской модели. На другой чаше весов у нас AWS и Microsoft, которые совсем недавно внедрили R1 в свои облачные платформы ☁️. Да и тестирования Cisco таких моделей, как Llama-3.1-405B от Meta и GPT-4o от OpenAI, назвать очень успешными язык не повернется – 96% и 86% взлома соответственно.

Итого: думайте сами, решайте сами, использовать DeepSeek или нет. Берегите себя и свои личные данные.