Манифест главы OpenAI Сэма Альтмана о будущем ИИ.

В ближайшие пару десятилетий мы сможем делать вещи, которые нашим бабушкам и дедушкам показались бы волшебством.

Это явление не ново, но оно будет ускорено. Люди стали гораздо более способными со временем; мы уже можем делать то, что наши предшественники считали невозможным.

Мы более способны не из-за генетических изменений, а потому что мы извлекаем выгоду из инфраструктуры общества, будучи намного умнее и способнее любого из нас; в важном смысле само общество является формой развитого интеллекта. Наши бабушки и дедушки — и поколения, которые были до них — построили и достигли великих вещей. Они внесли свой вклад в леса человеческого прогресса, от которых мы все выигрываем. ИИ даст людям инструменты для решения сложных проблем и поможет нам добавить новые распорки к этим лесам, которые мы не смогли бы придумать самостоятельно. История прогресса продолжится, и наши дети смогут делать то, чего мы не можем.

Это не произойдет сразу, но вскоре мы сможем работать с ИИ, который поможет нам достичь гораздо большего, чем мы когда-либо могли без ИИ; в конечном итоге у каждого из нас может быть личная команда ИИ, полная виртуальных экспертов в разных областях, работающих вместе, чтобы создать почти все, что мы можем себе представить. У наших детей будут виртуальные репетиторы, которые могут предоставить персонализированное обучение по любому предмету, на любом языке и в любом темпе, который им нужен. Мы можем представить себе похожие идеи для улучшения здравоохранения, возможность создавать любое программное обеспечение, которое кто-то может себе представить, и многое другое.

С этими новыми возможностями мы можем иметь общее процветание в такой степени, которая сегодня кажется невообразимой; в будущем жизнь каждого может быть лучше, чем сейчас. Процветание само по себе не обязательно делает людей счастливыми — есть много несчастных богатых людей — но оно значительно улучшило бы жизнь людей по всему миру.

Вот один из узких способов взглянуть на историю человечества: после тысяч лет научных открытий и технического прогресса мы выяснили, как расплавить песок, добавить некоторые примеси, с поразительной точностью в чрезвычайно малых масштабах разместить его в компьютерных чипах, пропускать через него энергию и в итоге получить системы, способные создавать все более совершенный искусственный интеллект.

Это может оказаться самым важным фактом во всей истории на данный момент. Возможно, что у нас будет сверхразум через несколько тысяч дней (!); это может занять больше времени, но я уверен, что мы этого достигнем.

Как мы оказались на пороге следующего скачка благосостояния?

В трех словах: глубокое обучение сработало.

В 15 словах: глубокое обучение работает, предсказуемо улучшается с масштабированием, и мы выделяем на него все больше ресурсов.

Вот и все; человечество открыло алгоритм, который действительно может по-настоящему изучить любое распределение данных (или, по-настоящему, базовые «правила», которые производят любое распределение данных). С шокирующей степенью точности, чем больше доступно вычислений и данных, тем лучше он помогает людям решать сложные проблемы. Я обнаружил, что независимо от того, сколько времени я трачу на размышления об этом, я никогда не могу по-настоящему осознать, насколько это важно.

Нам еще предстоит выяснить множество деталей, но было бы ошибкой отвлекаться на какую-то конкретную проблему. Глубокое обучение работает, и мы решим оставшиеся проблемы. Мы можем многое сказать о том, что может произойти дальше, но главное в том, что ИИ будет становиться лучше с масштабированием, и это приведет к значительным улучшениям в жизни людей по всему миру.

Модели ИИ вскоре будут служить автономными личными помощниками, которые будут выполнять определенные задачи от нашего имени, например, координировать медицинскую помощь от вашего имени. В какой-то момент в будущем системы ИИ станут настолько хороши, что помогут нам создавать более совершенные системы следующего поколения и добиваться научного прогресса по всем направлениям.

Технология привела нас из каменного века в сельскохозяйственный век, а затем в индустриальный век. Отсюда путь к веку интеллекта вымощен вычислениями, энергией и человеческой волей.

Если мы хотим предоставить ИИ в руки как можно большего числа людей, нам нужно снизить стоимость вычислений и сделать их обильными (что требует большого количества энергии и чипов). Если мы не построим достаточно инфраструктуры, ИИ станет очень ограниченным ресурсом, за который будут вестись войны, и который в основном станет инструментом для богатых людей.

Нам нужно действовать мудро, но с убежденностью. Рассвет века разведки — это знаменательное событие с очень сложными и чрезвычайно высокими ставками. Это не будет полностью позитивная история, но ее потенциал настолько огромен, что мы обязаны себе и будущему разобраться, как управлять рисками, стоящими перед нами.

Я верю, что будущее будет настолько светлым, что никто не сможет описать его в полной мере, пытаясь написать о нем сейчас; определяющей характеристикой века интеллекта станет массовое процветание.

Хотя это будет происходить постепенно, поразительные триумфы — исправление климата, создание космической колонии и открытие всей физики — в конечном итоге станут обычным явлением. С почти безграничным интеллектом и обильной энергией — способностью генерировать великие идеи и способностью воплощать их в жизнь — мы можем сделать довольно много.

Как мы видели с другими технологиями, будут и недостатки, и нам нужно начать работать уже сейчас, чтобы максимизировать преимущества ИИ, минимизируя его вред. Например, мы ожидаем, что эта технология может вызвать значительные изменения на рынках труда (хорошие и плохие) в ближайшие годы, но большинство рабочих мест будут меняться медленнее, чем думает большинство людей, и я не боюсь, что у нас закончатся дела (даже если сегодня они не кажутся нам «настоящими рабочими местами»). У людей есть врожденное желание творить и быть полезными друг другу, и ИИ позволит нам усилить наши собственные способности, как никогда раньше. Как общество, мы вернемся в расширяющийся мир, и мы снова сможем сосредоточиться на играх с положительной суммой.

Многие из работ, которые мы выполняем сегодня, показались бы людям пустячной тратой времени несколько сотен лет назад, но никто не оглядывается назад в прошлое, желая быть фонарщиком. Если бы фонарщик мог увидеть мир сегодня, он бы подумал, что процветание вокруг него невообразимо. И если бы мы могли перенестись на сто лет вперед, процветание вокруг нас показалось бы таким же невообразимым.

Источник: ia.samaltman.com