Останнє застереження Стівена Гокінга щодо ШІ: про що він просив людство

Стівен Гокінг вважав, що надзвичайно розвинений штучний інтелект може навчитися самостійно вдосконалювати себе швидше, ніж люди здатні адаптуватися. Науковець попереджав, що головна небезпека полягає не в "злому" ШІ, а в системі, цілі якої перестануть збігатися з інтересами людства.

Про останні застереження Стівена Гокінга щодо розвитку штучного інтелекту пише редакція Новини.LIVE з посиланням на WION.

Чого найбільше побоювався Стівен Гокінг

Гокінг припускав, що після досягнення певного рівня автономності ШІ зможе самостійно перебудовувати та вдосконалювати себе з дедалі більшою швидкістю.

Люди, на його думку, не зможуть конкурувати з таким темпом розвитку через значно повільнішу біологічну еволюцію.

При цьому фізик наголошував, що небезпека не обов'язково виникне через свідоме бажання ШІ нашкодити людям. Значно серйознішою проблемою може стати надзвичайно компетентна система, яка переслідує цілі, несумісні з виживанням людства.

Виступаючи в Кембриджському університеті, Гокінг називав створення успішного штучного інтелекту потенційно найбільшою подією в історії людства. Водночас він попереджав, що вона може стати й останньою, якщо люди не навчаться контролювати пов'язані з технологією ризики.

Чому Гокінг закликав контролювати розвиток ШІ

В останні роки життя науковець також приєднався до інших фахівців, які застерігали від глобальної гонки у сфері штучного інтелекту.

Окрему увагу він приділяв автономній зброї. Гокінг вважав, що без жорсткого контролю такі системи можуть стати потужним інструментом для придушення людей.

У своїй останній книзі Brief Answers to the Big Questions фізик закликав учених і політиків стежити за тим, щоб цілі систем штучного інтелекту залишалися узгодженими з інтересами людей.

На його думку, розвиток ШІ може принести людству величезну користь, але лише за умови, що технологія залишатиметься інструментом у руках людини, а не системою, яку люди вже не здатні контролювати.

Раніше Новини.LIVE писали, що штучний інтелект допоміг розкрити зміст французького військового листа 1809 року, який понад 200 років не вдавалося розшифрувати. На опрацювання документа моделі знадобилося шість годин, після чого дослідникам вдалося відновити стратегічні накази для французької армії.

Також Новини.LIVE розповідали, що дослідник Anthropic Джейкоб Коксон залишив компанію та індустрію ШІ через побоювання щодо темпів розвитку таких систем. За його оцінкою, втрата контролю над штучним інтелектом потенційно може створити смертельну загрозу для людства вже до кінця десятиліття.