Команда OpenAI, занимающаяся устранением долгосрочных опасностей, связанных со сверхумными компьютерами, в пятницу осталась без руководства после того, как две высокопоставленные фигуры покинули компанию.
Сооснователь OpenAI Илья Суцкевер и соруководитель команды "superalignment" Ян Лейке объявили о своем уходе из создателя ChatGPT на прошлой неделе, а американские СМИ сообщили, что оставшиеся члены группы либо ушли, либо были переведены в другие подразделения компании, базирующейся в Сан-Франциско.
Очевидный распад команды OpenAI, сосредоточенной на поддержании контроля над сложным искусственным интеллектом, происходит по мере того, как эта технология становится объектом повышенного внимания со стороны регулирующих органов и усиливаются опасения относительно ее опасности.
"OpenAI должна стать компанией AGI (общего искусственного интеллекта), ориентированной в первую очередь на безопасность", - написал Лейке в пятницу в своем посте в X, ранее называвшемся Twitter.
Лейке призвал всех сотрудников OpenAI "действовать с достоинством", которого требует то, что они создают.
За последние 3 года мы проделали невероятный путь. Моя команда запустила первый в истории RLHF LLM с InstructGPT, опубликовала первое масштабируемое руководство по LLM, впервые применила автоматизированную интерпретацию и обобщение от слабого к сильному. Скоро выйдет еще больше интересного материала.
— Ян Лейке (@janleike) 17 мая 2024 г.
Исполнительный директор OpenAI Сэм Альтман ответил на сообщение Лейке своим собственным комментарием, поблагодарив его за работу в компании и сказав, что ему грустно видеть, как Лейке уходит.
"Он прав, нам предстоит еще многое сделать", - сказал Альтман. "Мы полны решимости сделать это".
Альтман пообещал рассказать больше на эту тему в ближайшие дни.
Суцкевер сказал на X, что он уходит после почти десяти лет работы в OpenAI, чей "путь был поистине чудесным".
"Я уверен, что OpenAI создаст УЧИ, который будет одновременно безопасным и полезным", - добавил он, имея в виду компьютерные технологии, которые стремятся работать так же хорошо, как и человеческое мышление, или даже лучше, чем оно есть.
Суцкевер, главный научный сотрудник OpenAI, входил в состав совета директоров, который в ноябре прошлого года проголосовал за отстранение от должности коллеги-исполнительного директора Альтмана.
Увольнение привело стартап из Сан-Франциско в смятение, и правление OpenAI вернуло Альтмана на работу через несколько дней после того, как сотрудники и инвесторы взбунтовались.
На прошлой неделе OpenAI выпустила более производительную и еще более похожую на человека версию технологии искусственного интеллекта, которая лежит в основе ChatGPT, сделав ее бесплатной для всех пользователей.
"Это похоже на искусственный интеллект из фильмов", - написал Альтман в своем блоге.
Ранее Олтман указывал на персонаж Скарлетт Йоханссон в фильме "Она", где она озвучивает виртуального ассистента на основе искусственного интеллекта, знакомящегося с мужчиной, как на источник вдохновения для того, как он хотел бы, чтобы развивалось взаимодействие с ИИ.
Настанет день, когда "цифровые мозги станут такими же качественными и даже лучше, чем наши собственные", - сказал Суцкевер во время выступления на саммите TED по искусственному интеллекту в Сан-Франциско в конце прошлого года.
"УЧИ окажет огромное влияние на все сферы жизни".
(За исключением заголовка, эта история не редактировалась сотрудниками NDTV и опубликована на синдицированном канале.)
