ИИ и «беспрецедентные риски»: необходимы срочные меры для защиты прав человека

«Мы находимся на пороге необратимых изменений, которые затронут не только нас, но и будущие поколения», – говорится в письме, адресованном правительствам и разработчикам.

Экзистенциальные риски

«Нынешняя гонка, связанная с созданием все более мощных систем ИИ, означает качественный скачок в сторону усиления экзистенциальных рисков для всех аспектов нашей жизни. Сбои в работе автономных систем ИИ, не говоря уже о системах, намеренно спроектированных для таких целей, могут привести к остановке жизненно важных услуг, нарушить коммуникации, дестабилизировать критически важную инфраструктуру и нанести удар по самим основам демократических институтов», – написал Тюрк.

По его словам, люди могут лишиться доступа к чистой воде, отоплению и финансовым услугам, в то время как автономный ИИ уже ускоряет темпы и расширяет масштабы войн, ослабляя защитные механизмы, которые предотвращают применение оружия массового уничтожения.

Верховный комиссар подчеркнул, что для обеспечения регулирования искусственного интеллекта остается мало времени, и отметил, что будущее во многом будет зависеть от осознанных решений, принимаемых уже сейчас в отношении того, как ИИ разрабатывается, используется и регулируется.

«Вред, причиняемый ИИ, – не гипотеза, он уже ощущается и это происходит прямо сейчас, – добавил Тюрк. – Основные услуги автоматизируются таким образом, что люди, и без того находящиеся на периферии общества, оказываются еще дальше позади. Растущий спрос на данные и появление мощных инструментов слежки подрывают право на неприкосновенность частной жизни в масштабах, которые потенциально могут иметь необратимые последствия. Дезинформационные кампании с использованием ИИ уже искажают общественные дискуссии, подрывают социальную сплоченность и по-новому, зачастую скрытно, ослабляют демократические институты».

Ответственность за последствия

Верховный комиссар заявил, что компании, находящиеся на передовой разработок систем ИИ, несут ответственность за немедленное снижение рисков.

«Необходимо разработать надежные процедуры проверок в области прав человека с учетом согласованных стандартов безопасности, внедрить их во всем секторе и постоянно совершенствовать. За соблюдением этих стандартов должен осуществляться независимый внутренний контроль, обладающий необходимой автономностью, чтобы повысить прозрачность и подотчетность», – написал он.

Главный правозащитник ООН также подчеркнул, что государства, на территории которых расположены ведущие компании, разрабатывающие ИИ, несут особую ответственность за то, чтобы требовать от этих компаний должного поведения и привлекать их к ответственности в случае невыполнения требований. Он призвал государства обеспечить независимую и технически компетентную проверку возможностей автономных систем ИИ с предоставлением доступа к моделям, документации и средам для тестирования, а также сделать обязательными проверки в области прав человека.

Тюрк призвал срочно мобилизовать усилия на многосторонних площадках, чтобы выработать практические шаги, основанные на международных нормах в области прав человека.

«Ни одна страна не может самостоятельно регулировать эту технологию. Ни одна компания не должна иметь возможность в одиночку решать, с какими рисками мир должен смириться. Ни один человек не должен быть вынужден отказываться от своих прав в обмен на обещания технологического прогресса», – заявил он.

«Поколение, которое сейчас вступает во взрослую жизнь, столкнется с последствиями решений, принимаемых по этому вопросу, не имея возможности участвовать в их согласовании. Мы обязаны этому поколению обеспечить, чтобы такие решения принимались открыто, с учетом их прав и с той осторожностью, которой требует масштаб задачи», – подчеркнул Верховный комиссар.

Источник: Новости ООН