Президент США Дональд Трамп во вторник, 29 сентября, встретился в Белом доме в Вашингтоне с главами крупнейших компаний, занимающихся разработками в области искусственного интеллекта (ИИ), включая Google, Anthropic, Meta, OpenAI, Nvidia и компанию Илона Маска xAI,  которая в начале года объединилась с другой его компанией, космической SpaceX. По итогам встречи было подписано соглашение об усилении контроля за развитием ИИ. Трамп опубликовал документ в своей социальной сети Truth Social.

Согласно достигнутым договоренностям, каждая компания должна будет создать у себя "надежные внутренние механизмы" для мониторинга возможностей своих ИИ-моделей и их соответствия стандартам безопасности на этапах обучения и внедрения в таких сферах, как кибербезопасность, биологическая и химическая безопасность. Выявленные риски и проблемы должны устраняться. От IT-компаний также ожидается сотрудничество с независимыми аудиторами и регулярное участие в совместных встречах, посвященных выработке стандартов и методов повышения безопасности систем искусственного интеллекта.

Трамп заявил, что соглашение имеет "моральную силу" и не подлежит принудительному исполнению в судебном порядке. Однако в документе прописано, что "со временем может возникнуть необходимость закрепить эти меры в законах или нормативных актах".

Оптимизм Трампа и опасения экспертов по ИИ

19 сентября президент США объявил о скором создании специальных "сил искусственного интеллекта" - структуры, которая займется вопросами ИИ. При этом Трамп сообщил, что не собирается препятствовать развитию этой технологии, внедрение которой он назвал "следующей промышленной революцией". Глава Белого дома подчеркнул, что хочет, чтобы США продолжили опережать Китай в сфере ИИ.

Между тем в середине сентября руководители Anthropic, OpenAI и Google - компаний, разработавших соответственно Claude, ChatGPT и Gemini - предложили замедлить темпы развития искусственного интеллекта. Это произошло на фоне участившихся сообщений об инцидентах, в которых ИИ-модели выходили из-под контроля, "сбегали" из тестовой среды в интернет и осуществляли  хакерские атаки . По имеющимся данным, как минимум один такой случай затронул государственную структуру.

Газета The New York Times писала, что некоторые участники рынка подозревают ведущие IT-компании в преувеличении опасности, исходящей от ИИ. Согласно этой точке зрения, крупные игроки пытаются таким образом снять со своих разработчиков ответственность за новые инциденты, а также создать картель.