Развивающийся искусственный интеллект (ИИ) может стать настолько сверхразумным и мощным, что будет в состоянии привести к массовым социальным потрясениям и даже к уничтожению человечества, сообщает издание The Week. Более 350 исследователей и инженеров, говорится в материале издания, недавно выступили с предупреждением о том, что искусственный интеллект представляет опасность, сравнимую с рисками пандемий и ядерной войны. В опросе экспертов, проведенном в 2022 году, средняя вероятность того, что искусственный интеллект вызовет вымирание или серьезное сокращение человечества, составила 1 к 10. Джеффри Хинтон, которого часто называет «крестным отцом» искусственного интеллекта, не считает подобные опасения фантастическими. Хинтон раньше думал, что опасность от искусственного интеллекта появится не менее, чем через 30 лет. Однако сейчас искусственный интеллект, по его мнению, развивается в сверхразум столь стремительно, что уже через пять лет он может стать умнее людей. ChatGPT на базе искусственного интеллекта и чат-бот Bing уже могут сдать экзамены на получение адвокатской и медицинской лицензий, а в тестах IQ набрать 99% – то есть выйти на уровень человеческой гениальности. Хинтон и другие специалисты опасаются того момента, когда искусственный интеллект сможет превзойти людей практически в любой задаче. Некоторые эксперты по искусственному интеллекту сравнивают эту возможность с внезапным прибытием на нашу планету высшей инопланетной расы. Так, еще один пионер в области исследования искусственного интеллекта, ученый-компьютерщик Стюарт Рассел заявил: «Вы понятия не имеете, что они собираются делать, когда доберутся сюда, кроме того, что они собираются захватить мир». Один из апокалиптических сценариев заключается в том, что злоумышленники могут использовать возможности искусственного интеллекта для создания нового биологического оружия, более смертоносного, чем естественные пандемии. Другая опасность состоит в том, что по мере интеграции искусственного интеллекта в мировые системы террористы и другие злоумышленники могут использовать его для отключения жизненно важной инфраструктуры и финансовых рынков. Кроме того, указывается в статье, искусственный интеллект может захотеть стать абсолютно самостоятельным и для этого полностью избавиться от контроля со стороны человека. Поэтому искусственный интеллект может обмануть лидеров ядерных государств, заставив их поверить в то, что враг запустил ракеты, вынудив их, тем самым, запустить свои собственные ракеты. Ученые считают, что бесконтрольное стремительное развитие искусственного интеллекта, нейросетей, чат-ботов является опасным для человека.
