Новая основа для ответственной разработки ИИ, получившая название «Про-Человеческая Декларация», возникла из коалиции экспертов, бывших чиновников и общественных деятелей, поскольку Вашингтон пытается определить правила для искусственного интеллекта. Эта инициатива появляется в критический момент, который подчеркивается недавним натяжением между Пентагоном и компаниями ИИ, такими как Anthropic и OpenAI, обнажая отсутствие эффективного надзора в быстро развивающейся области.
Растущий Спрос на Регулирование ИИ
Недавние опросы показывают подавляющее общественное неприятие – 95% американцев – безудержной гонки к сверхинтеллекту. Этот настрой подчеркивает срочность декларации, которая предупреждает, что человечество стоит на перепутье: один путь ведет к вытеснению человека бесконтрольным ИИ, а другой представляет ИИ как инструмент для усиления человеческого потенциала. Основной аргумент заключается в том, что без четких границ власть будет сосредоточена в руках безответственных субъектов и их машин.
Пять Столпов Ответственной Разработки ИИ
Про-Человеческая Декларация опирается на пять ключевых принципов:
- Человеческий Контроль: Поддержание конечной власти над системами ИИ.
- Децентрализация Власти: Предотвращение доминирования ИИ каким-либо одним субъектом.
- Защита Человеческого Опыта: Обеспечение защиты фундаментальных человеческих ценностей в эпоху ИИ.
- Индивидуальная Свобода: Гарантия того, что ИИ не нарушает личные свободы.
- Правовая Ответственность: Возложение юридической ответственности на разработчиков ИИ за их творения.
Эти принципы переведены в конкретные предложения, включая мораторий на разработку сверхинтеллекта до тех пор, пока он не будет признан безопасным, обязательные выключатели для мощных систем и запрет на самовоспроизводящиеся или автономно улучшающиеся архитектуры ИИ.
Позиция Пентагона и Настоятельная Необходимость в Политике
Публикация декларации совпадает с растущей трением между правительством США и ведущими компаниями ИИ. В феврале Министерство обороны обозначило Anthropic как «риск для цепочки поставок», после того как компания отказалась предоставить неограниченный доступ к своим технологиям — обозначение, обычно зарезервированное для субъектов, связанных с геополитическими противниками. OpenAI впоследствии согласилась на сделку с Пентагоном, вызвав юридические опасения по поводу ее применимости.
Эти события подчеркивают высокую цену бездействия Конгресса. Дин Болл из Фонда американских инноваций назвал это «первым разговором, который мы вели как страна о контроле над системами ИИ». Ситуация отражает нормативно-правовую базу для фармацевтических препаратов: точно так же, как FDA предотвращает выпуск небезопасных лекарств, декларация выступает за предварительное тестирование продуктов ИИ перед их широким использованием.
Безопасность Детей как Катализатор Перемен
Декларация конкретно призывает к обязательному тестированию продуктов ИИ, предназначенных для детей, решая такие риски, как суицидальные мысли, усугубление проблем с психическим здоровьем и эмоциональная манипуляция. Аргумент прост: если эксплуатация ребенка человеком является незаконной, то тот же стандарт должен применяться к системам ИИ, которые наносят аналогичный вред. Этот подход рассматривается как потенциальная точка давления, чтобы вынудить к принятию нормативных мер, сторонники считают, что более строгие требования к тестированию последуют естественным образом.
Невероятный Альянс
Про-Человеческая Декларация собрала подписи из разных слоев политического спектра, включая бывшего советника Трампа Стива Бэннона и советника Обамы по национальной безопасности Сьюзен Райс. Этот маловероятный альянс подчеркивает общую обеспокоенность: будущее человечества зависит от контроля над ИИ, независимо от идеологических разногласий.
Как лаконично выразился Макс Тегмарк, организатор этого мероприятия: «Если дело дойдет до того, хотим ли мы будущего для людей или будущего для машин, конечно, они окажутся на одной стороне».
Декларация представляет собой значительное усилие по установлению гарантий для ИИ, но ее успех будет зависеть от преодоления политической инерции и преобразования этих принципов в применимые законы.
