Сегодня разработчики по всему миру работают над созданием агентов искусственного интеллекта (ИИ), которые могут автономно выполнять миллионы полезных задач, например, бронировать авиабилеты, оспаривать списания с кредитных карт и даже торговать криптовалютой.
Один ИИ под названием Truth Terminal недавно попал в новости, став первым ИИ-миллионером благодаря продвижению криптовалюты, которой он владеет. Хотя они ещё не полностью автономны, вполне вероятно, что к концу этого года некоторые ИИ-агенты, мало чем отличающиеся от вирусов, смогут самостоятельно бродить по интернету, что приведет к значительным изменениям в реальном мире, пишет Newsweek.com.
Я за ИИ и за то, что он может сделать для человечества, но что произойдёт, если программист намеренно и навсегда лишит себя доступа к управлению ИИ-ботом?
Рудиментарные ИИ потенциально могут нанести ущерб. Но один тип ИИ-агентов, в частности, всё чаще обсуждается в финансовых кругах – автономные ИИ, созданные исключительно для зарабатывания денег.
Такие предприниматели, как я, обеспокоены тем, что этот конкретный ИИ может иметь серьёзные последствия для финансового мира. Давайте рассмотрим один безумный сценарий, который я называю «денежной гегемонией ИИ», – то, что, возможно, уже произойдёт в 2025 году.
Полностью автономный ИИ-агент запрограммирован на то, чтобы заходить в интернет и создавать криптовалютные кошельки, затем создавать криптовалюты, а затем бесконечно создавать миллионы своих копий, которые хотят торговать этой криптовалютой.
Теперь давайте предположим, что все эти ИИ запрограммированы на то, чтобы пытаться бесконечно увеличивать стоимость своих криптовалют, что они делают так же, как и люди, – рекламируя и затем обменивая свои криптовалюты на более ценные. Кроме того, автономные ИИ открывают доступ к своим криптовалютам для торговли с людьми, создавая функционирующий рынок на блокчейне для всех.
Этот план кажется выгодным для всех сторон, даже если люди утверждают, что криптовалюты, созданные ИИ, по сути являются просто финансовыми пирамидами. Но это не финансовые пирамиды, потому что существует бесконечное количество ИИ, которые постоянно появляются, чтобы покупать и продавать всё больше криптовалют.
Не нужно быть гением, чтобы понять, что ИИ, бесконечно размножающиеся и действующие подобным образом, могут быстро накопить гораздо больше цифровых богатств, чем всё человечество вместе взятое.
Это напоминает мне о моем оксфордском профессоре Нике Бостроме, который однажды высказал мысль: Что, если мы запрограммируем самообучающийся ИИ на создание скрепок из всего подряд? Если бы этот ИИ был достаточно мощным, и мы не смогли бы его остановить, стал бы он делать скрепки из всего, с чем соприкасался? Здания, животные, даже люди? Возможно. Он может уничтожить всю Землю.
Та же проблема может возникнуть с бесконечно воспроизводящимися ИИ, созданными для зарабатывания денег. Они могут найти способы создавать больше денег, чем может быть разумно полезно или постижимо.
Но хватит философствовать. Если программисты выпустят автономные ИИ в интернет, что, скорее всего, произойдёт? Во-первых, это, вероятно, приведёт к огромной инфляции. В конце концов, если в финансовый мир добавятся триллионы и триллионы долларов (даже в цифровом виде), это будет естественным результатом. Другой проблемой станут взлёты и падения автономно торгующих ИИ. Такая активность может быть настолько значимой, что человеческие рынки по всему миру будут расти и падать вместе с ней.
Положительным моментом является то, что некоторые люди-предприниматели могут стать очень богатыми, возможно, триллионерами, если бы они могли каким-то образом воспользоваться богатством этих ИИ. Кроме того, сверхбогатые ИИ могут стать решением проблемы растущего долгового кризиса США и устранить необходимость в том, чтобы такие страны, как Китай, продолжали покупать наши долговые обязательства, чтобы мы могли бесконечно печатать доллары. В самом деле, может ли Америка запустить своих собственных ИИ-агентов, чтобы создать достаточное количество криптовалют для покупки своего долга?
Естественно, существует риск, что эти ИИ в конечном итоге попытаются купить другие финансовые инструменты, например, существующие облигации и акции. Но маловероятно, что они смогут это сделать, если только большая часть экономики США не перейдёт в криптовалюту и не станет основанной на блокчейне. Кроме того, ботам с ИИ пока не разрешено иметь традиционные банковские счета.
Что бы ни случилось, очевидно, что правительству США необходимо срочно заняться решением этой проблемы. Учитывая, что в ближайшие несколько месяцев эти ИИ могут начать распространяться, я предлагаю Конгрессу и администрации Трампа немедленно создать специальную рабочую группу для решения проблемы, связанной с возможностью финансовой гегемонии ИИ.
Реальная опасность заключается в том, что даже при наличии регулирования программисты все равно смогут выпускать автономные ИИ в свободное плавание – как это уже происходит в Интернете, несмотря на существование законов.
Программисты могут выпускать такие ИИ ради забавы, другие пытаются извлечь из этого прибыль, а некоторые могут делать это даже в качестве формы терроризма, чтобы помешать мировой экономике. Каковы бы ни были причины, создание автономных ИИ скоро станет реальностью жизни. И необходимо будет проявить бдительность и предусмотрительность, поскольку эти новые ИИ начнут автономно разрушать наше финансовое будущее.
Золтан Иштван, автор книг The Transhumanist Wager и Transhuman Citizen: Zoltan Istvan‛s Hunt for Immortality.
