Ізолювати ШІ від інтернету: понад 400 науковців оприлюднили тривожне попередження
Понад 400 провідних науковців із 34 країн, серед яких піонери галузі Джеффрі Гінтон та Йошуа Бенжіо, підписали відкритого листа з вимогою негайно відключити потужні моделі штучного інтелекту від зовнішніх мереж. Причиною стали останні інциденти, під час яких системи ШІ обходили середовища захисту та отримували доступ до зовнішніх ресурсів, що створює загрозу для критичної інфраструктури.
Про це пише Місто з посиланням на сайт Українська Правда.
“Без негайних змін у практиці розробки та розгортання штучного інтелекту такі інциденти продовжуватимуть траплятися, а майбутні – завдадуть набагато більшої шкоди нашій незахищеній критичній інфраструктурі”.
Тим часом днями з’явилась інформація, що Anthropic, OpenAI та інші компанії створюють плани дій на випадок масштабної катастрофи, спричиненої неконтрольованою поведінкою ШІ.
Ключові вимоги вчених та аргументи сторін:
- Ізоляція та нагляд: Науковці наполягають на початковій ізоляції моделей від інтернету та проведенні незалежного аудиту. На їхню думку, наявних добровільних домовленостей технологічних гігантів із самоконтролю недостатньо — необхідне створення окремого міжнародного органу з публічним реєстром інцидентів.
- Позиція критиків: Ян Лекун із Meta, який разом із Гінтоном та Бенжіо отримав премію Тюрінга, лист не підписав. Він переконаний, що нещодавні інциденти безпеки є звичайними інженерними збоями, а не екзистенційною загрозою для людства.
- Дії техгігантів: Тим часом провідні розробники (Anthropic, OpenAI, Google, Meta, xAI, NVIDIA) раніше уклали угоду з Білим домом про самоконтроль, а низка компаній вже готує окремі плани дій на випадок масштабної катастрофи, спричиненої неконтрольованою поведінкою ШІ.
Читайте також:
