29 вересня 2026 року, представники провідних компаній у сфері штучного інтелекту, включаючи Anthropic, OpenAI, Meta та Microsoft, закликали до посилення нагляду за системами, здатними до самовдосконалення. Вони висловили занепокоєння щодо потенційного ризику «вибуху інтелекту», що може призвести до швидкого розвитку технологій, який перевищить здатність суспільства адаптуватися.
Ризики автоматизації досліджень
У своєму зверненні понад 20 керівників і дослідників підкреслили, що залучення штучного інтелекту до створення нових моделей може загрожувати безпеці. Вони вважають, що швидкий розвиток технологій може призвести до зменшення людського нагляду, що, в свою чергу, створює ризики для суспільства.
Пропозиції щодо посилення контролю
Автори заклику пропонують вжити кілька заходів для підвищення безпеки у сфері штучного інтелекту:
- Визначити масштаби автоматизації досліджень у провідних лабораторіях.
- Посилити безпеку та нагляд за дата-центрами, що займаються розробкою ШІ.
- Підготувати плани екстреного реагування на можливі загрози.
Відомі підписанти звернення
Серед підписантів цього звернення — відомі особистості у світі штучного інтелекту, такі як Джек Кларк (співзасновник Anthropic), Якуб Пахоцький (головний науковий співробітник OpenAI), Джеффрі Гінтон та Йошуа Бенджіо. Їхня позиція підкреслює важливість обережності у розвитку технологій, які можуть змінити світ.