Новые научные достижения и инженерные технологии всегда впечатляли и пугали. Нет сомнений, что так будет и впредь. Недавно OpenAI объявила, что ожидает появления “сверхразума” – Искусственный интеллект, превосходящий человеческие возможности, – в этом десятилетии. Соответственно, компания формирует новую команду и выделяет 20% своих вычислительных ресурсов на обеспечение того, чтобы поведение таких систем искусственного интеллекта соответствовало общечеловеческим ценностям.
Похоже, они не хотят, чтобы искусственный сверхразум-изгой развязал войну с человечеством, как в научно-фантастическом триллере Джеймса Кэмерона "Терминатор" 1984 года (зловеще, что "терминатор" Арнольда Шварценеггера отправляется в прошлое из 2029 года). OpenAI призывает ведущих исследователей и инженеров в области машинного обучения помочь им решить эту проблему.
Но могут ли философы внести свой вклад в решение этой проблемы? В целом, чего можно ожидать от этой древней дисциплины в новую технологически развитую эпоху, которая сейчас наступает?
Чтобы ответить на этот вопрос, стоит подчеркнуть, что философия играла важную роль в развитии ИИ с момента его создания. Одной из первых историй успеха ИИ стала компьютерная программа 1956 года, получившая название the Logic Theorist, созданная Алленом Ньюэллом и Гербертом Саймоном. Его работа заключалась в доказательстве теорем с использованием положений "Математических принципов", трехтомного труда философов Альфреда Норта Уайтхеда и Бертрана Рассела, опубликованного в 1910 году, целью которого было реконструировать всю математику на единой логической основе.
Действительно, раннее внимание к логике в ИИ было во многом обусловлено фундаментальными дискуссиями, ведущимися математиками и философами.
Одним из важных шагов в развитии современной логики в конце 19 века стал труд немецкого философа Готтлоба Фреге. Фреге ввел в логику использование количественных переменных, а не таких объектов, как люди. Его подход позволил не только сказать, например, “Джо Байден - президент”, но и систематически выражать такие общие мысли, как “существует такой X, что X является президентом”, где “существует” - это квантор, а “X” - переменная.
Другими важными авторами в 1930-х годах были логик австрийского происхождения Курт Гедель, чьи теоремы о полноте и неполноте касаются пределов того, что можно доказать, и “доказательство неопределимости истины” польского логика Альфреда Тарского. Последнее показало, что “истина” в любой стандартной формальной системе не может быть определена в рамках этой конкретной системы, так что арифметическая истина, например, не может быть определена в рамках системы арифметики.
Наконец, абстрактное понятие вычислительной машины, предложенное в 1936 году британским пионером Аланом Тьюрингом, опиралось на такие разработки и оказало огромное влияние на ранний искусственный интеллект.
Однако можно сказать, что даже если такой старомодный символьный ИИ был создан благодаря философии и логике высокого уровня, ИИ “второй волны”, основанный на глубоком обучении, в большей степени основан на конкретных инженерных достижениях, связанных с обработкой огромных объемов данных.
Тем не менее, философия и здесь сыграла свою роль. Возьмем большие языковые модели, такие как та, которая поддерживает ChatGPT, который создает диалоговый текст. Это огромные модели с миллиардами или даже триллионами параметров, которые обрабатываются на обширных наборах данных (обычно охватывающих большую часть Интернета). Но по сути своей они отслеживают – и используют – статистические закономерности использования языка. Нечто очень похожее на эту идею высказал австрийский философ Людвиг Витгенштейн в середине 20-го века: “значение слова, - сказал он, - это его использование в языке”.
Но современная философия, а не только ее история, имеет отношение к ИИ и его развитию. Может ли магистр права по-настоящему понимать язык, на котором он работает? Может ли он достичь осознанности? Это глубоко философские вопросы.
Наука до сих пор не смогла полностью объяснить, как сознание возникает из клеток человеческого мозга. Некоторые философы даже считают, что это такая “сложная проблема”, которая выходит за рамки науки и может потребовать помощи философии.
В аналогичном ключе мы можем задаться вопросом, может ли ИИ, генерирующий изображения, быть по-настоящему креативным. Маргарет Боден, британский ученый-когнитивист и философ ИИ, утверждает, что, хотя ИИ сможет генерировать новые идеи, ему будет сложно оценивать их так, как это делают творческие люди.
Она также предполагает, что только гибридная (нейросимволическая) архитектура, использующая как логические методы, так и глубокое обучение на основе данных, позволит достичь общего искусственного интеллекта.
Человеческие ценности
Возвращаясь к анонсу OpenAI, в ответ на наш вопрос о роли философии в эпоху ИИ, ChatGPT сказал нам, что (помимо прочего) это “помогает обеспечить соответствие разработки и использования ИИ общечеловеческим ценностям”.
Исходя из этого, возможно, нам будет позволено предположить, что если согласование ИИ является серьезной проблемой, как считает OpenAI, то это не просто техническая проблема, которую должны решать инженеры или технологические компании, но и социальная. Для этого потребуется участие философов, а также социологов, юристов, политиков, граждан-пользователей и других специалистов.
Действительно, многие люди обеспокоены растущей мощью и влиянием технологических компаний и их влиянием на демократию. Некоторые утверждают, что нам нужен совершенно новый подход к ИИ – с учетом базовых систем, поддерживающих отрасль. Британский юрист и писатель Джейми Сасскинд, например, утверждает, что настало время построить “цифровую республику”, которая в конечном счете отвергнет ту самую политическую и экономическую систему, которая обеспечила технологическим компаниям такое большое влияние.
Наконец, давайте кратко зададимся вопросом, как искусственный интеллект повлияет на философию? Формальная логика в философии на самом деле восходит к работам Аристотеля в античности. В 17 веке. Немецкий философ Готфрид Лейбниц предположил, что однажды у нас может появиться “математический логик” – вычислительная машина, которая поможет нам получать ответы на философские и научные вопросы квази-оракульским способом.
Возможно, сейчас мы начинаем осознавать это видение, поскольку некоторые авторы отстаивают “вычислительную философию”, которая буквально кодирует предположения и выводит из них следствия. В конечном счете, это позволяет оценивать результаты на основе фактов и/или ценностей.
Например, проект PolyGraphs project моделирует последствия обмена информацией в социальных сетях. Затем это может быть использовано для компьютерного решения вопросов о том, как мы должны формировать свое мнение.
Безусловно, прогресс в области искусственного интеллекта дал философам много поводов для размышлений; возможно, он даже начал давать некоторые ответы.
(Авторы: Энтони Грейлинг, профессор философии Северо-Восточного университета Лондона, и Брайан Болл, доцент философии искусственного интеллекта и информационной этики Северо-Восточного университета Лондона)
(Заявление о раскрытии информации: Брайан Болл получает финансирование от Британской академии, а ранее его поддерживали Королевское общество, Королевская инженерная академия и Фонд Леверхулма. Энтони Грейлинг не работает, не консультирует, не владеет акциями и не получает финансирования от какой-либо компании или организации, которые могли бы извлечь выгоду из этой статьи, и не раскрывает никакой информации о своей работе, кроме академической)
Эта статья переиздана с сайта The Conversation под лицензией Creative Commons. Прочтите оригинал статьи.
