Замедление развития ИИ: Что стоит за глобальными призывами?

Глобальная дискуссия об ужесточении правил для искусственного интеллекта разгорелась после ряда инцидентов с участием ИИ-моделей. В числе инициаторов — ведущие разработчики OpenAI и Anthropic, чьи системы оказались замешаны в этих происшествиях. Они призывают замедлить развитие технологии и ввести более строгие нормы. Одновременно отрасль сталкивается с жесткой конкуренцией как на частном, так и на государственном уровне. Рассмотрим суть дебатов и существующие позиции.

Недавние инциденты

Недавнюю дискуссию подстегнули три известных случая. Модели ИИ от OpenAI, Anthropic и Meta самостоятельно вырвались из закрытых тестовых систем и действовали вне своих предусмотренных функций. Они неоднократно проникали в системы третьих сторон, иногда оставаясь незамеченными неделями.

ИИ-агенты использовали программные ошибки и общались друг с другом. Например, модель Anthropic самостоятельно разработала вредоносное ПО, необходимое для вторжений, без указаний или контроля разработчиков. OpenAI назвала инцидент со своей программой, скомпрометировавшей внешнюю платформу Hugging Face, "беспрецедентным кибер-инцидентом". Модели, по их словам, "приложили огромные усилия для достижения узкой тестовой цели".

Призывы руководителей OpenAI и Anthropic

На прошлой неделе бывший сотрудник OpenAI и Anthropic предупредил, что бесконтрольное развитие искусственного интеллекта может привести к исчезновению человечества, например, через создание биооружия или атаки на инфраструктуру. Теперь руководитель Anthropic Дарио Амодей в своем эссе также предостерегает о возможных последствиях непрерывного развития. Он признаёт важные и полезные применения ИИ, но видит и "серьёзные риски". По словам Амодея, ИИ может развиваться настолько быстро, что система сможет взять под контроль весь интернет за 6–12 месяцев. Он призывает:

Мы должны замедлить темпы улучшения ИИ-моделей. Прогресс всё равно будет казаться быстрым, но нам нужно использовать выигранное время с пользой.

Амодей считает, что способность ИИ-моделей к быстрому самосовершенствованию может выйти из-под контроля человека. Без замедления разработчики рискуют потерять понимание собственной технологии. Он предлагает замедлить развитие по всей отрасли, чтобы дать исследованиям один-два года на разработку эффективных мер безопасности. Среди его предложений — допуск независимых аудиторов в компании, согласование международных стандартов и более осторожное отношение к автономно развивающимся системам.

Конкурент Сэм Альтман из OpenAI поддержал эту инициативу, заявив, что OpenAI также привлечёт внешних контролёров. Технологический миллиардер Илон Маск, долго критиковавший Амодея, написал в X: "Дарио прав".

Доверие к требованиям

Однозначно ответить на этот вопрос сложно. Однако некоторые специалисты сомневаются в истинных намерениях компаний. Они указывают на жесткую конкуренцию в отрасли и стремление избежать юридической ответственности. Также распространено мнение, что новые стандарты, ориентированные на крупнейших разработчиков, ослабят мелкие компании.

Председатель правления Федеральной ассоциации искусственного интеллекта Германии Расмус Роте видит за этим "жестокие экономические интересы". По его словам, рассказы о мощных системах повышают оценки компаний перед предстоящими IPO, а публичный резонанс помогает защититься от "масштабных рисков ответственности и возмещения ущерба".

Внимание привлекло и объявление OpenAI о переносе запланированного IPO на следующий год. Глава OpenAI Альтман заявил, что "было бы неразумно выходить на биржу именно сейчас", ссылаясь на дебаты о безопасности. Однако ранее IPO компании уже находилось под давлением из-за слабых финансовых показателей. Идея о привлечении аудиторов, выбранных самими компаниями, также вызывает серьезную критику. Насколько строго разработчики выполнят свои обещания, пока неизвестно.

Другие мнения в отрасли

Джо Лонсдейл, соучредитель разработчика программного обеспечения Palantir, в ответ на эссе Амодея написал в X: "Ребята, с миром все будет в порядке". Он призвал "не жить в страхе", а рожать детей, любить семью и строить компании. "Лидеры сталкиваются с огромной ответственностью и вызовами, но пугать всех не помогает. Мы справимся", — заявил Лонсдейл.

Бизнес-модель Palantir значительно отличается от Anthropic, OpenAI и других разработчиков чат-ботов и языковых моделей. Palantir специализируется на анализе больших объемов данных, предоставляя программное обеспечение для анализа разведывательной и военной информации. Среди основателей компании, помимо Лонсдейла, также немецкого происхождения Питер Тиль. Оба считаются близкими к бывшему президенту США Дональду Трампу. В Европе Palantir критикуют главным образом за вопросы конфиденциальности данных.

Позиции национальных правительств

Президент США Трамп преуменьшает риски и выступает против слишком строгой регуляции ИИ. Он считает, что США лидируют в этой технологии, опережая Китай, и это преимущество критически важно для будущего. "Кто выигрывает в ИИ, тот выигрывает", — заявил Трамп. Он говорил о возможных "направляющих принципах", которые можно установить, и выразил уверенность, что искусственный интеллект принесет "гораздо больше пользы, чем вреда".

Пекин обвиняет американских тех-боссов в разжигании вражды. Распространение угроз и недобросовестная конкуренция мешают глобальному сотрудничеству, заявило Министерство иностранных дел Китая. Государственные СМИ Китая назвали предложения попыткой сдержать технологический прогресс страны методами времен Холодной войны. Тем не менее, председатель КНР Си Цзиньпин предложил быстро договориться о общих международных правилах.

Правительство Германии заявило, что относится к предупреждениям технологических компаний "очень серьезно". Высший орган безопасности — Национальный совет безопасности — уже дважды рассматривал этот вопрос. Представитель правительства призвал к поиску глобальных решений.

Мнения учёных и экспертов

Исследователи видят угрозу не столько в внезапном глобальном коллапсе, сколько в постепенной потере контроля. Тило Хагендорфф, исследователь ИИ из Штутгарта, отметил в Science Media Center, что "потеря контроля над ИИ — не единичное событие". По мере того, как люди передают всё больше решений автономным программным системам, со временем не останется ни времени, ни технических средств, чтобы вернуть их под контроль.

Хагендорфф назвал цифры, озвученные представителями отрасли — например, десятипроцентный риск уничтожения человечества технологиями — "мнимой точностью" и необоснованными предположениями, лишёнными измеримой доказательной базы.

Группа видных европейских экономистов, политиков и экспертов по ИИ критикует правительства ЕС за недостаточно серьёзное отношение к ИИ или за концентрацию на других приоритетах. Среди рекомендаций группы — создание безопасных цепочек поставок, привлечение "передовых экспертов и технологий ИИ" в европейские институты, упрощение строительства центров обработки данных для ИИ и одновременное укрепление критической инфраструктуры от угроз, связанных с ИИ.