Папа Лев XIV написал 40-страничный текст с критикой искусственного интеллекта. Он не стеснялся выражать свое мнение.
Папа Лев XIV опубликовал документ под названием Magnifica Humanitas. Это произведение составляет 40 000 слов, в которых он критикует искусственный интеллект. Он говорит, что этот инструмент угрожает самой сущности человечества. Без лишних прикрас.
Это не случайно. Папы делали так уже несколько веков. Они публиковали такие документы, называемые епитриалами, когда происходили какие-то проблемы в мире.
Помните епитриал Rerum Novarum? 1891 год. Лев XIII призывал боссов прекратить эксплуатацию рабочих во время промышленной революции.
А как насчет епитриала Pacem in Terris? 1963 год. Иоанн XXIII умолял лидеров мира прекратить использование ядерного оружия во время холодной войны.
И епитриал Laudato Si? 2015 год. Франциск критиковал проблему изменения климата.
Теперь у нас есть Лев XIV. Бывший математик, который видит суть вещей. Он предупреждает, что искусственный интеллект – это ловушка для демократии, для нашего психического здоровья и самого будущего.
Правда умирает первой
Дезинформация получает свою поддержку в виде искусственного интеллекта. Папа указывает, что алгоритмы не просто показывают нам плохие новости, они создают их. Искаженные изображения, фальшивые видео, предвзятое поведение в сообщениях.
Он говорит, что демократия страдает, когда прагматизм заменяет правду. Не „что правильно“, а „что работает сейчас“.
Это медленный процесс. Безразличие к правде не приведет ни к чему хорошему. Это путь к тоталитаризму. Лев пишет, что мы склоняемся к контролю, когда перестаем заботиться о том, являются ли факты реальными.
„Безразличие к правде приводит… к тоталитаризму.“
Кто контролирует сообщения?
Владельцы социальных сетей имеют большую власть. Папа говорит, что их не должны направлять только клики или реклама. Они должны заботиться о человеческом достоинстве.
Интернет должен быть местом для свободы. Не машиной для отвлечения внимания. Не средством сглаживания мыслей.
Коммуникация формирует культуру. Если позволить алгоритмам решать, как развиваться, мы потеряем эту культуру.
Работа не является необязательной
Это трудное место. Прибыль не может оправдать увольнение всех. Лев говорит, что человек – это цель, а не средство. Нельзя использовать людей как детали для ускорения процесса.
Правительства должны защищать рабочие места. Занятость – это не только экономика, это основное благо. Для семей. Для общества. Устранение этого означает нарушение социального контракта.
Война через алгоритмы
Искусственный интеллект ускоряет войну. Безликая. Меньше человечности.
Лев требует, чтобы перед использованием дронов были определенные критерии. Кто несет ответственность? Не только человек, нажимающий кнопку, но и разработчик, тренер, человек, который отдал приказ. Цепочка ответственности.
Цели должны различать солдат и мирных жителей. Беззащитные люди нуждаются в защите. И здесь нет переговоров: решение о убийстве не может быть автоматизировано. Смертоносное оружие остается под контролем людей.
Он призывает к международному соглашению. К окончанию гонки вооружений. Защита мирных жителей всегда.
Разрыв в богатстве увеличивается
Богатство концентрируется в руках немногих людей. Каждый день. С искусственным интеллектом это становится еще более заметно.
„Невидимая рука“ рынка уже не достаточна. Нельзя полагаться на него для решения проблем, созданных роботами и алгоритмами.
Политики должны стремиться к общественному благу. Достойная работа. Социальная интеграция. Если инновации происходят, все должны получать выгоду, а не только технологические гиганты.
Современная рабство
Торговля людьми не исчезла. Это происходит в интернете. Цифровые сети способствуют этому. Анонимные платежи, приложения для сообщений. Это, как говорит папа, современная форма рабства.
Игнорирование этого не является нейтральным. Это сговор. Как прошлые грехи, но скрытые за экраном. Толерантность к этим практикам оправдывает их.
Цена размышлений
Центры обработки данных использовали землю. Огромное количество энергии. Увеличение потребления воды. Выбросы CO2 увеличиваются с каждым новым моделью языка.
Лев хочет устойчивых решений. Не просто больших серверов. Нужно думать о среде, в которой работают эти системы.
Дети в центре внимания
Цифровые медиа создают культуру мгновенности. Чрезмерное стимулирование. Дети утонуть в этом.
Политики, школы, семьи. Они должны объединиться. Искусственный интеллект усиливает опасности для молодых людей. Злоумышленники используют его. Фальшивые профилы. Алгоритмы, способствующие опасным контактам. Измененные изображения и видео для использования в злых целях.
Он предупреждает о необходимости не давать детям телефоны в молодом возрасте. Опросы, шантаж, сексуальная эксплуатация – это не редкие случаи. Это характеристики системы, не предназначенной для защиты уязвимых людей.
Мы стоим на краю пропасти. Папа видит этот риск. Он говорит нам не прыгать.
