Понад 850 провідних діячів науки, бізнесу та технологій, серед яких «хрещені батьки» штучного інтелекту (ШІ) Джеффрі Хінтон і Йошуа Бенджіо, виступили з ініціативою запровадити тимчасовий мораторій на створення «суперінтелекту» — системи, що потенційно може перевершити людські когнітивні можливості.
Відкритий лист, який підписали науковці, підприємці та громадські діячі, закликає сповільнити розробку надпотужних моделей ШІ, поки не буде досягнуто міжнародного наукового та суспільного консенсусу щодо безпечного розвитку цієї технології.
Серед підписантів — співзасновник Apple Стів Возняк, засновник Virgin Group Річард Бренсон, а також інші відомі представники ІТ-індустрії, які наголошують на необхідності «гальмування гонки» між корпораціями за створенням систем, здатних перевершити людський інтелект.
У документі зазначається, що гонка за суперінтелектом викликає дедалі більше занепокоєння — від ризику масового безробіття та втрати людської гідності до загроз національній безпеці й навіть можливого зникнення людства.
«Необхідно ввести заборону на створення суперінтелекту, доки не буде доведено, що це робиться безпечно, підконтрольно і за підтримки суспільства», — йдеться у зверненні.
Ідея про можливість створення штучного інтелекту, який перевершить людський, з’явилася ще у 1950-х роках. Її висловив британський математик Алан Тюрінг, який передбачав, що розвиток машинного мислення може призвести до втрати контролю над технологіями. Сьогодні ці побоювання активно обговорюють науковці, етичні комітети та державні структури у різних країнах.
Цікаво, що навіть керівники великих компаній, які очолюють розвиток сучасних моделей ШІ, раніше висловлювали побоювання щодо безпеки таких технологій. Зокрема, генеральний директор Microsoft AI Мустафа Сулейман наголосив: «Поки ми не зможемо довести, що це безпечно, нам не слід це винаходити». Подібну позицію раніше підтримував і глава OpenAI Сем Альтман, хоча обидва не підписали нинішній лист.
Попри заклики до стриманості, уряди провідних держав вважають, що змагання у сфері штучного інтелекту має стратегічне значення. Вони розглядають технологію як ключ до майбутніх проривів у медицині, обороні, освіті та бізнесі.
Водночас деякі корпорації, серед них Meta, активно використовують термін «суперінтелект» у своїх маркетингових кампаніях, що, на думку експертів, створює додатковий ажіотаж і тиск на конкурентів.
Іншу концепцію просуває Сем Альтман, який бачить перспективу не у «суперінтелекті», а в загальному штучному інтелекті (AGI) — системі, здатній виконувати будь-які людські завдання. На його думку, такий ШІ може стати «інструментом розвитку людства», а не його загрозою.
Однак більшість підписантів звернення переконані, що технологічна гонка повинна поступитися місцем етичним, науковим та правовим принципам безпеки, перш ніж людство отримає справжній суперінтелект.
Залишити коментар