Иллюстрация: ИИ
Папа римский Лев XIV призвал страны ООН на встрече в Женеве принять конкретные меры для запрета смертоносного автономного оружия (theverge.com). По его словам, решения о жизни людей, свободе и применении силы должны оставаться под действенным, информированным и ответственным контролем человека.
Что предложил Лев XIV
В обращении к участникам встречи понтифик заявил, что системы искусственного интеллекта нужно «разоружить». Он возложил на людей ответственность за то, как применяется технология: её использование нужно направлять, менять, а при необходимости — отвергать.
Призыв к запрету касается смертоносного автономного оружия. Отдельно Лев XIV обозначил более широкий принцип: решения, затрагивающие жизнь и свободу человека, требуют человеческого контроля.
Почему папа выступил против прав для ИИ
«Машины — это инструменты, а не личности», — заявил Лев XIV. Он предупредил об опасности наделения систем ИИ правами или статусом юридического лица.
Эта позиция продолжает тему защиты человека в эпоху искусственного интеллекта. Понтифик затронул её и в своём крупном папском документе, опубликованном в мае.
Как проверять решения об использовании ИИ
Лев XIV призвал международные институты защищать общее благо от рисков, связанных с ИИ. Для этого он предложил общие стандарты, независимый надзор и понятные механизмы ответственности.
Вместе эти меры должны позволять проверять решения о разработке и использовании ИИ и при необходимости оспаривать их. Такие решения также должны сопровождаться надлежащими мерами по устранению причинённого вреда.
Какую позицию занимал Франциск
В 2024 году папа Франциск тоже призывал запретить смертоносное автономное оружие. Он говорил, что ни одна машина никогда не должна решать, лишать ли человека жизни.
Лев XIV связывал выбор своего имени с необходимостью отвечать на развитие искусственного интеллекта. Он проводил параллель со Львом XIII, который возглавлял церковь в период промышленной революции.
Нынешний призыв адресован странам ООН перед встречей в Женеве. Лев XIV предложил им перейти к конкретным шагам по запрету смертоносного автономного оружия.
