Мы живём в эпоху чудес, которые стали настолько привычными, что почти перестали замечаться. Попросите машину написать сонет в стиле Шекспира о любви к утреннему кофе – и через мгновение перед вами появятся рифмованные строки. Закажите ей изображение кота-астронавта, плывущего сквозь туманность Андромеды, – и она создаст картину, поражающую воображение. Этот новый собеседник, искусственный интеллект, ворвался в нашу жизнь как джинн из бутылки, готовый исполнять творческие желания. Он стал нашим оракулом, поэтом, художником и инженером. Мы задаём вопросы и получаем ответы, формулируем задачи и видим их воплощение. Кажется, что мы наконец-то обрели идеального помощника, способного понять любой наш замысел.
Но что происходит, когда магия даёт сбой? Почему, попросив создать логотип для инновационного стартапа, мы часто получаем предсказуемый набор клише – лампочку, шестерёнку или схематичный мозг? Почему эссе на сложную философскую тему оказывается поверхностным пересказом статьи из «Википедии», лишённым глубины и оригинальной мысли? Почему нейросеть, способная нарисовать фотореалистичный портрет, вдруг спотыкается на простой просьбе сделать изобретение?
Ответ на эти вопросы прост и одновременно ошеломляющ: мы говорим с инопланетянином. Мы пытаемся вести диалог с формой разума, которая не имеет ничего общего с нашим собственным сознанием. Нейросеть не «понимает» концепцию кота или астронавта. Она не «знает», что такое любовь, и не «испытывает» вдохновения. Её мир – это не мир идей, чувств и физических законов, а безграничный вероятностный гобелен, сотканный из математических связей между словами и пикселями. Когда вы произносите слово «заяц», нейросеть не представляет себе пушистого зверька, прячущегося под кустом. Вместо этого в её глубинах активируется целая сеть ассоциаций, статистических «нитей», которые с огромной вероятностью ведут к слову «лес», потому что в триллионах обработанных ею текстов эти два слова появлялись вместе несчётное количество раз. Нейросеть – это гениальный статистический попугай, который знает, какое слово должно следовать за предыдущим, но не имеет ни малейшего представления об их смысле.
Именно в этом и кроется фундаментальная проблема нашего общения. Мы обращаемся к нейросети как к человеку, ожидая интуитивного понимания, способности читать между строк и улавливать тонкие намёки. А она, в свою очередь, воспринимает наши слова как чистый сигнал, как стартовую точку для путешествия по своему статистическому лабиринту. Любая неточность, любая двусмысленность в нашей инструкции отправляет её по ложному пути, приводя к результатам, которые нас разочаровывают. Мы злимся на машину, не осознавая, что ошибка кроется не в ней, а в нашем способе коммуникации. Мы пытаемся управлять сложнейшим инструментом, размахивая им как дубиной, хотя он требует точности скальпеля.
