Искусственный интеллект (ИИ) "может представлять угрозу для всего человечества" без принятия соответствующих мер. С таким предупреждением в среду, 23 сентября, выступили перед Советом Безопасности ООН руководители крупнейших компаний, занимающихся ИИ.

"В данный момент требуется крайняя осторожность", - заявил гендир OpenAI Сэм Альтман в Нью-Йорке на экстренном заседании Совета.

По его словам, системы могут развиваться быстрее, чем институты, или же привести к сосредоточению власти у слишком узкого круга лиц. "Отрасль не должна принимать на себя чрезмерные технологические риски только потому, что выгоды слишком значительны и серьезны, чтобы сбавлять темпы", - сказал Альтман.

Глава OpenAI также призвал правительства сотрудничать друг с другом и с представителями отрасли при принятии решений, определяющих технологическое будущее.

Anthropic: ИИ может представлять угрозу для всего человечества

Генеральный директор Anthropic Дарио Амодеи в свою очередь сделал акцент на необходимости "еще более строгих стандартов безопасности". "Мы будем замедлять темпы развития настолько, насколько это необходимо, чтобы убедиться, что каждая последующая технология ИИ, которую мы выпускаем, действительно безопасна", - утверждал он. "Я даже считаю, что при ненадлежащем управлении ИИ может представлять угрозу для всего человечества", - указал глава Anthropic.

В свою очередь генеральный директор Hugging Face Клемент Деланж, которая недавно стала целью кибератаки со стороны автономного программного обеспечения OpenAI, отметил, что его компания также применяла эту технологию для отражения атак. "Миру как никогда нужен ИИ с открытым исходным кодом, чтобы защитить себя", - подчеркнул Деланж.

Трамп объявил о создании "спецсил ИИ"

Ранее, 19 сентября, Трамп объявил о создании специальной структуры - "сил искусственного интеллекта", - которая займется вопросами его развития.

"ИИ - это следующая промышленная революция или интернет, но его влияние будет еще масштабнее. Возможно, на него будет приходиться до 25% ВВП нашей страны", - добавил глава Белого дома, подчеркнув, что хочет, чтобы США продолжили опережать Китай в этой сфере.