На Генеральній Асамблеї ООН група науковців, політиків та активістів представила ініціативу під назвою "Глобальний заклик до червоних ліній для ШІ". Її мета — до 2026 року виробити міжнародні обмеження на найбільш небезпечні способи використання штучного інтелекту. Про це повідомляє Gizmodo.
Документ вже підписали понад 200 людей, серед яких колишня президентка Ірландії Мері Робінсон, екс-президент Колумбії Хуан Мануель Сантос, а також відомі вчені Джеффрі Хінтон і Йошуа Бенджіо, яких вважають "батьками" штучного інтелекту. Також серед підписантів є численні відомі дослідники та активісти.
Учасники закликають уряди досягти угоди про основні обмеження, які б запобігли "категорично неприйнятним ризикам". Хоча в документі немає конкретних правил, наведено приклади можливих "червоних ліній". Серед таких — заборона використання ШІ для запуску ядерної зброї, масового спостереження за громадянами або створення систем, які неможливо зупинити людиною.
Організатори пропонують, щоб майбутня угода грунтувалася на трьох принципах:
- чіткий перелік заборонених практик;
- незалежні механізми перевірки та аудиту;
- створення міжнародного органу для нагляду за виконанням угод.
Водночас остаточне визначення меж і процедур залишено на розсуд держав. Ініціатори радять проводити спеціальні саміти та робочі групи для узгодження позицій.
США вже мають зобов'язання "не дозволяти ШІ контролювати ядерну зброю", ухвалене ще за адміністрації Байдена. Однак представники розвідки адміністрації Трампа висловили незадоволення тим, що компанії, які розробляють ШІ, не дозволяють використовувати свої розробки для внутрішнього спостереження. Такі випадки можуть ускладнити прийняття глобальних рішень у сфері безпеки, на які сподіваються експерти з ШІ.
