Последнее предупреждение Стивена Хокинга об ИИ: о чем он просил человечество

Стивен Хокинг считал, что чрезвычайно развитый искусственный интеллект может научиться самостоятельно совершенствоваться быстрее, чем люди способны адаптироваться. Учёный предупреждал, что главная опасность заключается не в "злом" ИИ, а в системе, цели которой перестанут совпадать с интересами человечества.

О последних предостережениях Стивена Хокинга относительно развития искусственного интеллекта пишет редакция Новини.LIVE со ссылкой на WION.

Чего больше всего опасался Стивен Хокинг

Хокинг предполагал, что после достижения определенного уровня автономности ИИ сможет самостоятельно перестраивать и совершенствовать себя со все возрастающей скоростью.

Люди, по его мнению, не смогут конкурировать с таким темпом развития из-за значительно более медленной биологической эволюции.

При этом физик подчеркивал, что опасность не обязательно возникнет из-за сознательного желания ИИ навредить людям. Гораздо более серьезной проблемой может стать чрезвычайно компетентная система, преследующая цели, несовместимые с выживанием человечества.

Выступая в Кембриджском университете, Хокинг называл создание успешного искусственного интеллекта потенциально величайшим событием в истории человечества. В то же время он предупреждал, что оно может стать и последним, если люди не научатся контролировать риски, связанные с этой технологией.

Почему Хокинг призывал контролировать развитие ИИ

В последние годы жизни учёный также присоединился к другим специалистам, которые предостерегали от глобальной гонки в сфере искусственного интеллекта.

Особое внимание он уделял автономному оружию. Хокинг считал, что без жесткого контроля такие системы могут стать мощным инструментом для подавления людей.

В своей последней книге "Brief Answers to the Big Questions" физик призвал учёных и политиков следить за тем, чтобы цели систем искусственного интеллекта оставались согласованными с интересами людей.

По его мнению, развитие ИИ может принести человечеству огромную пользу, но только при условии, что технология будет оставаться инструментом в руках человека, а не системой, которую люди уже не способны контролировать.

Ранее Новини.LIVE писали, что искусственный интеллект помог раскрыть содержание французского военного письма 1809 года, которое более 200 лет не удавалось расшифровать. На обработку документа модели потребовалось шесть часов, после чего исследователям удалось восстановить стратегические приказы для французской армии.

Также Новини.LIVE сообщали, что исследователь Anthropic Джейкоб Коксон покинул компанию и индустрию ИИ из-за опасений относительно темпов развития таких систем. По его оценке, потеря контроля над искусственным интеллектом потенциально может создать смертельную угрозу для человечества уже к концу десятилетия.