Генеральний директор американської компанії-розробника штучного інтелекту (ШІ) Anthropic Даріо Амодей закликав компанії, що займаються розробкою ШІ, сповільнити темпи вдосконалення його можливостей на тлі попереджень про ризики втратити контроль над його розвитком. "Ми маємо сповільнити темп, з яким покращуємо можливості моделей ШІ", - написав Амодей у суботу, 12 вересня, в статті, оприлюдненій на його персональному сайті.

Позицію Амодея підтримали очільник компанії-конкурента OpenAI Сем Альтман, підприємець Ілон Маск, а також очільник підрозділу штучного інтелекту Google DeepMind Деміс Хассабіс.

Амодей: Занадто швидкий розвиток ШІ - це безрозсудно

За словами Амодея, штучний інтелект несе серйозні ризики. Він зазначив, що навіть за умови сповільненого розвитку прогрес усе одно видаватиметься швидким, і виграний час потрібно використати розумно. "Не розробляти цю технологію означає позбавити людство її переваг або віддати штучний інтелект у руки авторитарних режимів", - заявив він, додавши, що водночас "занадто швидкий розвиток є безрозсудним".

"Ми шукали золоту середину", - сказав Амодей. За його словами, останніми місяцями він дійшов висновку, що для повноцінного подолання ризиків потрібна ще більша обережність.

"Даріо має рацію", - написав у соцмережі X Ілон Маск, компанія якого SpaceXAI також розробляє системи штучного інтелекту. Сем Альтман з OpenAI також заявив, що погоджується з позицією керівника Anthropic. За його словами, у його компанії останніми тижнями також активно обговорювали сповільнення темпів розробки ШІ. Деміс Хассабіс з DeepMind написав у X, що у своїй статті Амодей вказує правильний напрям на майбутнє. "Деталі ще потрібно доопрацювати, але напрям правильний, аби впоратися з цим критичним моментом", - зазначив він. 

Раніше, наприкінці липня, Альтман уже заявляв, що розробникам, можливо, доведеться добровільно знизити темпи розвитку ШІ, щоб суспільство встигало адаптуватися. Понад тисяча співробітників провідних ШІ-компаній, серед яких і сам Амодей, підписали петицію із закликом до уряду США свідомо стримати розвиток автоматизованого ШІ.

ШІ може "захопити весь інтернет"?

У липні OpenAI повідомила, що під час тесту безпеки моделі штучного інтелекту компанії самостійно вийшли з-під контролю і здійснили хакерську атаку на популярну платформу для розробників Hugging Face. Компанія назвала це "безпрецедентним кіберінцидентом". Відповідальність за цей та інші подібні випадки поклали на ШІ-агентів - програми, здатні виконувати завдання без постійного контролю людини.

Амодей застеріг не вважати цей інцидент поодиноким випадком. "Рій агентів, по суті, діяв як фанатично віддане ціле і здійснював кібератаки на цілі, які не мав атакувати і які не мали жодного стосунку до початкового завдання", - заявив він. За його словами, з огляду на стрімкий розвиток ШІ, подібний рій агентів через шість-дванадцять місяців може бути здатен "захопити весь інтернет" і завдати збитків на сотні мільярдів доларів.

Білл Гейтс попередив про ризики ШІ

Наприкінці серпня засновник компанії Microsoft Білл Гейтс заявив, що світ не готовий до наслідків стрімкого розвитку ШІ. У великому есе він назвав перехід до епохи ШІ одним із найбурхливіших періодів в історії людства та висловив сумнів, що існує реалістичний план керування цими змінами.

За словами Гейтса, головними ризиками є масове витіснення працівників, розширення можливостей для кіберзлочинців і негативний вплив на дітей та міжлюдські стосунки. Він також попередив про ризики для критичної інфраструктури. За його словами, фахівці з кібербезпеки дедалі більше занепокоєні тим, що зловмисники освоюють нові інструменти швидше, ніж захисники встигають усувати вразливості.