Ни роботы, ни ядерное оружие: учёные назвали другую угрозу ИИ

Сценарий, в котором искусственный интеллект уничтожает людей с помощью роботов, ядерного оружия или созданных вирусов, часть исследователей считает маловероятным. Вместо этого они предупреждают о более медленной угрозе — потере людьми критического мышления, навыков и способности контролировать системы, которым передают всё больше задач.

О том, как чрезмерная зависимость от ИИ может постепенно ослаблять человеческие способности, пишет редакция Новини.LIVE со ссылкой на Daily Mail.

Как ИИ может постепенно ослаблять человеческие навыки

Старший преподаватель робототехники и искусственного интеллекта Шеффилдского университета Галлама Самуэле Винанци называет одним из главных рисков "enfeeblement" — постепенное ослабление человеческих способностей из-за передачи всё большего количества задач машинам.

Речь идет не о мгновенной потере контроля, а о накоплении мелких решений. Люди всё чаще используют ИИ для написания текстов, программирования, исследований и принятия решений, из-за чего потребность самостоятельно выполнять эти задачи уменьшается.

Винанци связывает это с "когнитивной разгрузкой" — привычкой передавать часть умственной работы внешним инструментам. По его словам, в долгосрочной перспективе это может привести к ситуации, когда люди будут хуже понимать системы, от которых зависят, и будут иметь меньше возможностей проверять или отменять их решения.

Один из примеров такого доверия был приведён в исследовании 2023 года с участием 27 радиологов. Им предлагалось анализировать маммограммы вместе с рекомендацией системы, которую они считали современным ИИ.

Когда рекомендация была верной, врачи принимали правильное решение в 80% случаев. Когда же экспериментаторы намеренно давали ошибочную рекомендацию, показатель правильных ответов падал ниже 20%.

Исследователи также обращают внимание на образование. Профессор Сеун Коладе в ходе собственного эксперимента использовал ChatGPT для написания ответов на типичные университетские задания. По его словам, ИИ создавал оригинальные и хорошо написанные работы, которые получали высокие оценки, тогда как Turnitin большинство из них не выявлял.

Коладе считает, что главная проблема заключается не только в списывании. Студенты могут научиться быстро получать убедительные результаты, при этом слабее развивая способность самостоятельно оценивать их правильность.

Почему исследователи не исключают более серьезных последствий

Часть специалистов считает апокалиптические сценарии преувеличенными, поскольку реальные действия все равно зависят от людей, оборудования и физической инфраструктуры.

Винанци отмечает, что создание опасного вируса по-прежнему требует работы в лаборатории, а наиболее защищенные системы на атомных электростанциях часто физически изолированы от внешнего интернета.

В то же время другие исследователи предупреждают, что риск может возрасти, если управление больницами, транспортом, энергосистемами, военными структурами и экономикой будет всё больше передаваться автоматизированным системам.

Основатель и генеральный директор ControlAI Андреа Миотти считает, что очень мощный ИИ, глубоко интегрированный в экономику и инфраструктуру, теоретически мог бы получить значительное влияние без постоянного участия людей.

При этом для возникновения опасности системе не обязательно иметь злые намерения. По его словам, люди могут пострадать как побочное следствие действий ИИ, если тот будет преследовать собственные цели и требовать всё больше ресурсов.

Именно поэтому исследователи называют способность людей самостоятельно мыслить, подвергать сомнению рекомендации ИИ и сохранять профессиональные навыки одним из ключевых факторов контроля над такими системами.

Ранее Новини.LIVE писали, что Google экспериментирует с функцией Call For Me, которая позволяет передавать Gemini часть телефонных звонков. Искусственный интеллект сможет самостоятельно связываться с нужными местами, в частности для бронирования столика или получения дополнительной информации.

Также Новини.LIVE сообщали, что исследователь Anthropic Джейкоб Коксон решил покинуть компанию и в целом индустрию ИИ из-за обеспокоенности темпами развития технологии. Он считает, что создаваемые системы могут выйти из-под контроля людей и уже к концу десятилетия потенциально представлять смертельную угрозу для человечества.