Швидкий розвиток штучного інтелекту дедалі більше нагадує нову технологічну гонку озброєнь. The Economist зазначає , що одночасно з розширенням можливостей ШІ зростають і побоювання щодо його безпеки. Деякі розробники вже попереджають про сценарії, за яких потужні моделі можуть діяти непередбачувано, обходити обмеження або використовуватися для небезпечних цілей.
Окреме питання – конкуренція між США та Китаєм. Вашингтон побоюється втратити технологічне лідерство, адже перевага у ШІ може дати країні додаткові можливості у кібербезпеці, розвідці та військових технологіях. Прикладом уже є війна в Україні, де навіть невелика технологічна перевага у безпілотниках здатна безпосередньо впливати на перебіг бойових дій.
На цьому тлі керівники провідних ШІ-компаній закликають хоча б уповільнити розвиток найпотужніших моделей. 12 вересня Сем Альтман та Ілон Маск підтримали заклик голови Anthropic Даріо Амодея “pace the frontier” – тобто контролювати темпи розвитку передових систем. Водночас адміністрація Дональда Трампа наголошує на необхідності зберегти перевагу США над Китаєм.
Повна зупинка гонки вимагала б домовленостей між Вашингтоном і Пекіном, але тут виникає головна проблема – контроль. На відміну від ядерних випробувань, де можна відстежувати певні фізичні процеси, потужні ШІ-системи можуть навчатися у звичайних дата-центрах, а їхню справжню мету зовні визначити набагато складніше. Тому міжнародна угода потребувала б прозорості, обміну інформацією про небезпечні інциденти та механізмів перевірки.
The Economist вважає, що повністю зупинити технологічну конкуренцію буде надзвичайно складно. Водночас країни можуть домовлятися хоча б про базові правила безпеки, захист ШІ-лабораторій від кібератак і спільні дослідження методів контролю та тестування моделей. Головна проблема полягає в необхідності одночасно розвивати технологію і не допустити ситуації, коли прагнення отримати перевагу створить ризик, який уже буде неможливо контролювати.