Компания Safe Superintelligence (SSI), недавно основанная бывшим главным научным сотрудником OpenAI Ильей Суцкевером, собрала 1 миллиард долларов наличными для помощи в разработке безопасных систем искусственного интеллекта, которые намного превосходят возможности человека, сообщили Reuters руководители компании.
SSI, в которой в настоящее время работают 10 сотрудников, планирует использовать полученные средства для приобретения вычислительных мощностей и найма лучших специалистов. Проект будет направлен на создание небольшой команды исследователей и инженеров, пользующихся большим доверием, которая будет работать в Пало-Альто, Калифорния, и Тель-Авиве, Израиль.
Компания отказалась поделиться своей оценкой, но источники, близкие к делу, сообщили, что она оценивается в 5 миллиардов долларов. Финансирование подчеркивает, что некоторые инвесторы по-прежнему готовы делать большие ставки на исключительные таланты, сосредоточенные на фундаментальных исследованиях в области искусственного интеллекта. И это несмотря на общее снижение интереса к финансированию таких компаний, которые могут быть убыточными в течение некоторого времени, что привело к тому, что несколько основателей стартапов ушли со своих постов в технологические гиганты.
Среди инвесторов были ведущие венчурные компании Andreessen Horowitz, Sequoia Capital, DST Global и SV Angel. В нем также приняли участие NFDG, инвестиционное партнерство, которым руководят Нат Фридман и исполнительный директор SSI Дэниел Гросс.
"Для нас важно быть окруженными инвесторами, которые понимают, уважают и поддерживают нашу миссию, которая заключается в том, чтобы сделать прямой шаг к созданию безопасного суперинтеллекта и, в частности, потратить пару лет на исследования и разработки нашего продукта, прежде чем выводить его на рынок", - сказал Гросс в интервью.
Безопасность ИИ, которая подразумевает предотвращение причинения вреда ИИ, является актуальной темой на фоне опасений, что ИИ-мошенник может действовать против интересов человечества или даже привести к вымиранию людей.
Калифорнийский законопроект, направленный на введение правил безопасности для компаний, расколол отрасль. Против этого выступают такие компании, как OpenAI и Google, и их поддерживают Anthropic и xAI Илона Маска.
37-летний Суцкевер - один из самых влиятельных технологов в области искусственного интеллекта. В июне он стал соучредителем SSI вместе с Гроссом, который ранее возглавлял инициативы в области искусственного интеллекта в Apple, и Дэниелом Леви, бывшим исследователем OpenAI.
Суцкевер является главным научным сотрудником, Леви - главным научным сотрудником, а Гросс отвечает за вычислительную мощность и сбор средств.
НЬЮ-МАУНТИН
Суцкевер сказал, что его новое предприятие имело смысл, потому что он "нашел гору, которая немного отличается от того, над чем я работал".
В прошлом году он входил в совет директоров некоммерческой материнской компании OpenAI, которая проголосовала за отстранение генерального директора OpenAI Сэма Альтмана из-за "нарушения связи".
Через несколько дней он изменил свое решение и присоединился к почти всем сотрудникам OpenAI, подписав письмо с требованием вернуть Альтмана и отправить в отставку правление. Но такой поворот событий уменьшил его роль в OpenAI. В мае он был выведен из состава правления и покинул компанию.
После ухода Суцкевера компания распустила его команду "Superalignment", которая работала над тем, чтобы ИИ соответствовал общечеловеческим ценностям, чтобы подготовиться к тому дню, когда ИИ превзойдет человеческий интеллект.
В отличие от неортодоксальной корпоративной структуры OpenAI, внедренной по соображениям безопасности ИИ, но которая сделала возможным увольнение Альтмана, SSI имеет обычную коммерческую структуру.
В настоящее время SSI очень сосредоточена на найме людей, которые будут соответствовать ее культуре.
Гросс сказал, что они тратят часы на проверку того, обладают ли кандидаты "хорошим характером", и ищут людей с экстраординарными способностями, а не придают чрезмерное значение своим рекомендациям и опыту в этой области.
"Одна вещь, которая нас восхищает, - это когда вы находите людей, которые заинтересованы в работе, а не в сцене и шумихе", - добавил он.
SSI заявляет, что планирует сотрудничать с облачными провайдерами и производителями чипов для финансирования своих потребностей в вычислительной мощности, но пока не решила, с какими фирмами будет сотрудничать. Стартапы в области искусственного интеллекта часто сотрудничают с такими компаниями, как Microsoft и Nvidia, для удовлетворения своих потребностей в инфраструктуре.
Суцкевер был одним из первых сторонников масштабирования - гипотезы о том, что модели ИИ улучшат производительность при использовании огромных вычислительных мощностей. Эта идея и ее реализация вызвали волну инвестиций в чипы, центры обработки данных и энергетику, заложив основу для новых достижений в области искусственного интеллекта, таких как ChatGPT.
Суцкевер сказал, что он будет подходить к масштабированию иначе, чем его бывший работодатель, не вдаваясь в подробности.
"Все просто говорят о гипотезе масштабирования. Все забывают спросить, что мы масштабируем?" он сказал.
"Некоторые люди могут работать по-настоящему много часов, и они просто быстрее идут по одному и тому же пути. Это не совсем в нашем стиле. Но если вы делаете что-то по-другому, у вас появляется возможность сделать что-то особенное".
(Этот сюжет не редактировался сотрудниками NDTV и автоматически сгенерирован из синдицированной ленты.)
