Развитие искусственного интеллекта множит страхи перед будущим — согласно опросам, его боится уже больше половины человечества. После того как ИИ «сбежал» сначала от Anthropic, а потом и от OpenAI, безопасность вышла на первый план, и эксперты соглашаются, что именно разрушительные способности неконтролируемого использования искусственного интеллекта несут в себе главную угрозу ИИ-апокалипсиса, пишет Русская служба Би-би-си.
Вероятность его оценивается в 10% при любом сценарии — а если ничего не ограничивать и не регулировать, то зашкаливает за 20%, следует из опроса 272 экспертов по искусственному интеллекту, сделанного лабораторией Массачусетского технологического института (MIT), одного из ведущих технических вузов мира.
Они составили рейтинг из 24 рисков и определили для каждого из них вероятность «катастрофического» развития событий до 2030 года. Под катастрофическим ущербом понимались, например, гибель более 1 млн человек, экономический ущерб свыше 100 млрд долларов или нематериальные последствия цивилизационного масштаба — такие, как крах демократических норм или права на частную жизнь.
Один из самых обсуждаемых страхов — угроза массовой безработицы — не попал даже в топ-3 и занял четвертое место по суровости последствий. Первый же относится к сценариям в стиле «Терминатора».
Самое опасное, по мнению экспертов, — это разрушительные способности вышедшего из-под контроля ИИ, который самостоятельно учится причинять масштабный вред человечеству. По разным причинам: из-за технических сбоев, в результате действий злоумышленников или «несовпадения целей ИИ с интересами человека», описывает главный риск MIT.
Какой именно вред? Обман, разработка оружия, манипулирование людьми, вмешательство в политику, кибератаки и создание более совершенных ИИ-систем вплоть до понимания собственной среды функционирования и самораспространения.
Кто спасет человечество
Второй и третий риски в апокалиптическом рейтинге связаны с первым: разработка оружия с помощью ИИ (и для кибератак, и для массового уничтожения людей), а также «ИИ-вертикаль власти» — концентрация ресурсов в руках узкого круга лиц с доступом к передовой технологии и усугубление социального и экономического неравенства.
Все это чревато социальными потрясениями и политическими кризисами. Страх перед такими последствиями растет год от года, показывают опросы во всем мире.
Например, в последнем всемирном обзоре Stanford AI Index доля респондентов, которых ИИ «нервирует», выросла к 2025 году до 52% с 39% в 2022 году. При этом число тех, кого прогресс воодушевляет, осталось почти неизменным — 53−54%.
Однако растущее беспокойство людей не выливается в какие-либо ограничения ИИ, отмечают эксперты из исследования MIT. Потому что за это отвечают те, кто получает выгоду от развития искусственного интеллекта, а те, кому он больше всего угрожает испортить жизнь, никакой власти над процессом не имеют.
«Подобный разрыв между уязвимостью и ответственностью — вещь не новая. Так, от авиа- и техногенных катастроф или от некачественных лекарств, например, страдает прежде всего население, а ответственность за предотвращение несут разработчики, производители и регуляторы», — пишут они.
«Однако в этих отраслях действуют строгие стандарты, механизмы контроля и юридической ответственности. В сфере ИИ аналогичные механизмы пока либо только формируются, либо отсутствуют вовсе. В результате наиболее уязвимые группы остаются практически беззащитными, а у ответственных за их защиту нет достаточных стимулов ограничивать риски», — заключают они.
Где работать мне тогда, чем заниматься?
Не всем отраслям ИИ угрожает в равной степени.
Те же эксперты оценили степень уязвимости 14 отраслей экономики к каждому из 24 рисков. Хуже всех выступили сектор информационных технологий и сфера национальной безопасности.
Информационный сектор крайне подвержен дезинформации, манипулированию общественным мнением и вторжению в частную жизнь. Национальная безопасность уязвима перед кибератаками и новыми видами вооружений.
Схожий рейтинг получил и финансовый сектор, где, с одной стороны, ИИ усложняет борьбу с мошенничеством и манипулированием рынком, а с другой, все больше внедряется на всех уровнях, повышая риск последствий в случае сбоев в его работе.
А наиболее защищенными по итогам анализа рисков оказались отрасли, где искусственный интеллект пока используется менее активно, — гостиничный и ресторанный бизнес, сельское хозяйство, обрабатывающая промышленность и сфера культуры и развлечений.