«Мы опережаем Китай». Трамп выступил против замедления разработки ИИ
Президент США Дональд Трамп высказался против замедления разработки передовых моделей ИИ, к которому призывают многие представители индустрии. По его мнению, американские компании не должны рисковать проиграть гонку за первенство в ИИ Китаю.
«Мы опережаем Китай в ИИ. Мы — самая продвинутая страна в мире, и, откровенно говоря, я бы предпочел, чтобы мы ею оставались, потому что выиграет тот, кто выиграет в ИИ», — сказал президент США журналистам в воскресенье, 13 июня.
«Мы можем внедрить больше мер предосторожности. Мы можем сделать всякие вещи. Но я думаю, что у нас тут много очень деструктивных сил, которые поднимают вопросы, которые они не должны поднимать, и поднимают вопросы, которые не воплотятся в реальность», — добавил Трамп.
Он не стал уточнять, о каких «деструктивных силах» идет речь.
Комментарий президента США последовал за призывом главы компании Anthropic Дарио Амодеи замедлить разработку моделей ИИ, чтобы подготовиться к угрозам, которые они могут представлять.
При этом Трамп заявил, что он «не преуменьшает» риски и угрозы, которые могут исходить от ИИ, но считает, что ИИ принесет намного больше пользы, чем вреда.
Предупреждения изнутри индустрии
В последнее время все больше и больше представителей индустрии выражают опасения по поводу бесконтрольной разработки передовых моделей искусственного интеллекта. Дарио Амодеи в своей статье призвал развивать ИИ «в сбалансированном темпе, который обеспечит безопасность без отказа от приносимой им пользы».
Anthropic, заявил он, в одностороннем порядке берет на себя обязательства уделять достаточно времени настройке безопасности своих моделей, и призвал правительства разных стран требовать того же от компаний-разработчиков ИИ.
«Дарио прав», — написал в своей соцсети X Илон Маск, которому, помимо прочего, принадлежит компания xAI и чат-бот Grok. «Я уже давно бью тревогу по поводу ИИ», — добавил он.
Поддержал призыв Амодеи и глава OpenAI Сэм Альтман. В середине августа его компания — разработчик ChatGPT — объявила, что замедлит обучение своих передовых моделей после того, как ИИ-агенты вышли из-под контроля и взломали платформу для обмена моделями ИИ Hugging Face.
При этом сторонники более осторожного подхода к разработке ИИ не отрицают, что любые замедления должны либо быть скоординированы с Китаем, либо быть очень ограниченными, чтобы не позволить Пекину обойти конкурентов.
Амодеи в интервью CBS в воскресенье, 13 сентября, назвал конкуренцию между американскими и китайскими разработчиками ИИ «самой сложной дилеммой» в попытке замедлить развитие моделей.
«Мы не должны обманываться, потому что стимулы прорываться вперед и следующее из этого военное преимущество настолько велики, что мы должны быть твердо уверены в том, что другая сторона играет по правилам», — сказал Амодеи, добавив, что он не уверен, насколько это вообще реально.
- ИИ Claude пытались использовать для создания биологического оружия. Anthropic заявила, что эти попытки были пресечены
- Исследователь из Anthropic: вероятность того, что ИИ «может уничтожить всех людей», превышает 10%
О необходимости международного сотрудничества говорит и бывший сотрудник OpenAI и Anthropic Джейкоб Коксон. Он уволился из Anthropic, заявив, что компания прилагает недостаточно усилий, чтобы минимизировать риски.
В интервью NBC Коксон призвал к координации на международном уровне, поскольку гонка с Китаем может быть очень опасной.
Политический вопрос
В преддверии промежуточных выборов в США вопрос о регуляции ИИ государством становится политическим. Спикер Палаты представителей США республиканец Майк Джонсон признал необходимость ввести меры предосторожности, но призвал не торопиться с принятием новых законов.
«Если Конгресс в спешке проведет внеочередную сессию, чтобы попытаться регулировать ИИ, мы проиграем гонку Китаю, а это будет представлять угрозу для каждого американца», — сказал он CNN.
Хаким Джеффрис, возглавляющий демократов в Палате представителей, напротив, заявил, что законодатели должны действовать решительно в том, что касается замедления разработки ИИ.
При это возможные угрозы, исходящие от передовых моделей ИИ, — не единственная проблема. Как отмечает Associated Press, многие американцы выступают против строительства новых дата-центров, необходимых для работы ИИ.
Из-за дата-центров, в частности, местным жителям приходится платить больше за воду и электричество. И хотя президент США Дональд Трамп поддерживает строительство новых дата-центров, ни республиканцы, ни демократы в рамках предвыборной кампании не разделяют его энтузиазма, опасаясь разозлить своих избирателей.
Читать оригинал на BBC Russian →
Источник: BBC Russian
