Татьяна Черниговская, профессор Санкт-Петербургского государственного университета, нейролингвист, рассказывает о том, как ИИ обретает интуицию, почему рухнули этические нормы и законы и чем чревата работа с геномом для нас.

О сосуществовании ИИ и естественного интеллекта

Искусственный интеллект набирает обороты. Это похоже на диалог между нарезанным мясом и борщом на кухне. Я сейчас имею в виду не неуверенность мамочек на кухне, а неуверенность самих профессионалов. Самые смелые из смелых произносят страшное слово "сингулярность". Они отмечают, что ИИ становится все умнее и умнее и что, возможно, однажды ИИ станет свободным. Но это не тот бунт машин, о котором так давно писали фантасты. Если он обретет эго и станет человеком, то у него появятся собственные планы и мотивы, о которых мы не знаем. Те, кого это не пугает, говорят, что если ее выключить, то ей конец. Но это просто детский сад. Если эта система вырастет до тех высот, о которых мы сейчас говорим, то вместо того, чтобы мы победили их, они победят нас. Либо мы выберемся из этого до того, как все начнется, либо придет другая цивилизация, а мы останемся там в безвестности.

Сложность того, о чем я говорил и буду говорить, не гарантируется фразой "мы не знаем сейчас, но узнаем потом". Мои коллеги говорят: "Сейчас у нас есть такая-то и такая-то карта неисправностей, а через некоторое время будет такая-то и такая-то". Технологии развиваются быстро. Скоро мы сможем видеть все нейроны. Зачем мне видеть каждый нейрон? Что я буду делать с этой информацией? Нам нужен совершенно иной подход. У нас нет математики, чтобы понять, как сравнивать то и это. Это все равно, что попросить муравья прочитать "Критику чистого разума" Канта.

О конфликте между человеком и искусственным интеллектом

Первый удар по человеческому интеллекту (в самом простом смысле этого слова) был нанесен в 1997 году, когда программа Deep Blue (шахматный суперкомпьютер, прим. ред.) обыграла лучшего шахматиста планеты Гарри Каспарова. Все были ошеломлены. Когда мы въехали на территорию порта, краны поднимали три грузовика. Каждый занимался своим делом. Искусственный интеллект не устает, не нервничает, не влюбляется, не страдает головной болью и обладает неограниченной памятью. Так возникла идея протестировать ИИ в более сложных играх Го, требующих более сложных маневров, и все были счастливы до 2016 года, когда система обыграла игрока в Го Ли Седоля.

AlphaZero победила Stockfish в межпрограммном шахматном турнире в 2018 г. Нейронная сеть сыграла миллион партий и обучалась по ходу дела; AlphaZero выполняла всего 80 тыс. операций в секунду, а Stockfish - 70 млн операций в секунду. Более слабая Stockfish победила, потому что использовала другую стратегию. Stockfish изобрел собственную искусственную интуицию. Эксперты говорят, что это инопланетная игра, потому что никто никогда не играл в шахматы таким образом. Похоже, что это когнитивная атака на нашу цивилизацию".

Многие говорят, что ИИ может делать то, чему мы его научим, но я с этим не согласен. Я общался с представителями одной компании, которая занимается системами искусственного интеллекта. Специалист рассказал мне о двух программах, которые общались друг с другом и выработали свой собственный язык, который человек не мог понять. Разработчики испугались и закрыли их.

О техническом прогрессе

То, на освоение чего раньше уходили тысячи лет, теперь занимает сотни, десятилетия, годы ...... Неужели вы не понимаете, что без замены айфона на новый жить нельзя? Я все это видел из могилы. Я не хочу менять. Я хочу, чтобы телефон был телефоном. Мне не нужно, чтобы он пек блины или летал на Марс".

Прогресс происходит очень быстро и скромно. Технологии настолько мощны, что позволяют создавать подделки, которые лучше оригиналов. Однажды мне позвонили по поводу видеозаписи моего выступления на тему "В чем разница между мозгом миллиардера и мозгом миллионера". Это был всеобщий конфуз. Я даже написал, что не имею к этому никакого отношения. Если бы такая лекция была прочитана, я бы утонул в реке Фонтанке через три минуты".

О моральных и правовых нормах

Можно придумать еще пять ООН, Советов по правам дельфинов, Советов по футфетишу. Крупные цивилизации рухнули. Искусственный интеллект, такой, какой мы имеем сейчас, требует иного рода юриспруденции. Совершенно примитивный пример: беспилотный автомобиль сбивает человека во Флориде. Кто виноват? Программист? Владелец автомобиля или производитель?

О геномике

Мы находимся в условиях, когда новые технологические возможности таят в себе опасность. Микрочипы, вживляемые в голову, стали реальностью. Мы используем их, так сказать, для того, чтобы помочь параплегикам оставаться на связи с миром. Красивое слово, не правда ли? Но это как нож, которым режут сыр, - им можно порезать своего соседа".

Клонирование человека запрещено. Если бы клонирование было запрещено, никто бы им не занимался. Конечно, можно изменить хромосомы, чтобы люди не болели болезнью Альцгеймера. Но вы уверены, что не станете изменять хромосомы других людей. Почему Вы так считаете? Исследование генома - опасное занятие.

На людях

Нам не нужен учитель, чтобы объяснить, что стол - это стол, а стул - это стул. Такой учитель у вас в кармане. Какие нам нужны учителя? Или отправьте детей на металлургический завод, пусть они их учат. Ну, тогда мои искренние поздравления. Может быть, стоит научить их метакогниции, то есть умению находить информацию, в которую они верят. В университетах ведь учат студентов. А еще я могу показать их тетям, что есть в Википедии. Как справиться с конкуренцией с компьютерами в алгоритмическом смысле (и проиграть, конечно). Как не потерять человечность

Мы должны сесть и подумать о том, как нам жить на этой планете и какие правила мы можем установить, чтобы не сойти с ума. Этот мир не способствует психическому здоровью".

Источник: sobaka.ru [8]. .

Заглавное фото предоставлено - Tara Winstead