Через неделю после того, как в социальных сетях была опубликована серия скриншотов поискового инструмента Google с искусственным интеллектом - AI Overviews, - предоставляющего неточные ответы, Google опубликовала объяснение и назвала "недостачу данных" и "информационный пробел" в качестве причин ошибки.
Пару недель назад Google запустил свою экспериментальную функцию поиска с использованием искусственного интеллекта в США, однако вскоре она подверглась критике после того, как люди поделились в социальных сетях странными ответами на поисковый инструмент, в том числе советами есть камни и смешивать сыр для пиццы с клеем.
В своем блоге Google признал, что "некоторые странные, неточные или бесполезные обзоры с использованием искусственного интеллекта, безусловно, появлялись", а также опроверг предполагаемые опасные ответы на такие темы, как оставление собак в машинах и курение во время беременности, заявив, что эти обзоры с использованием искусственного интеллекта "никогда не появлялись". Google также обратил внимание на большое количество поддельных скриншотов, которые были опубликованы в Интернете, назвав их "очевидными" и "глупыми".
Технический гигант заявил, что они увидели "бессмысленные новые запросы, которые, по-видимому, направлены на получение ошибочных результатов", и добавил, что одной из областей, в которой ему необходимо улучшить, является интерпретация бессмысленных запросов и сатирического контента.
Приведя пример вопроса на вирусных скриншотах - "Сколько камешков я должен съесть?" - Google сообщил, что практически никто не задавал этот вопрос до того, как эти скриншоты стали вирусными. Поскольку в Интернете доступно не так много высококачественного веб-контента, который серьезно затрагивает этот вопрос, это создает "пустоту данных" или "информационный пробел", - заявили в Google. Объясняя, почему поисковый инструмент выдал странный ответ на этот конкретный запрос, Google сказал: "На эту тему есть сатирический контент... это также было опубликовано на веб-сайте поставщика программного обеспечения для геологии. Поэтому, когда кто-то ввел этот вопрос в поисковую систему, появился обзор искусственного интеллекта, который точно ссылался на один из немногих веб-сайтов, отвечающих на этот вопрос".
В своем блоге Лиз Рид, вице-президент, руководитель отдела поиска Google, также объяснила, как работают обзоры с использованием искусственного интеллекта и что отличает их от чат-ботов и других продуктов LLM. Она сказала, что обзоры с использованием искусственного интеллекта "основаны на индивидуальной языковой модели, которая интегрирована с нашими основными системами веб-ранжирования и предназначена для выполнения традиционных задач "поиска", таких как поиск релевантных высококачественных результатов из индекса Google". Вот почему обзоры с использованием искусственного интеллекта не просто выводят текст, но и содержат соответствующие ссылки, подтверждающие результаты и позволяющие людям продолжить изучение.
"Это означает, что обзоры ИИ, как правило, не "галлюцинируют" и не выдумывают вещи так, как это могло бы быть в других продуктах LLM", - сказала она.
По данным Google, когда в обзорах с использованием искусственного интеллекта что-то получается неправильно, это происходит по таким причинам, как "неправильная интерпретация запросов, неверное толкование языковых нюансов в Интернете или отсутствие большого количества полезной информации".
После выявления закономерностей, в которых Google ошибался, компания заявила, что внесла более десятка технических улучшений, таких как-
- Google усовершенствовал механизмы обнаружения бессмысленных запросов и ограничил включение сатирического и юмористического контента.
- Google обновила свои системы, чтобы ограничить использование пользовательского контента в ответах, которые могут содержать вводящие в заблуждение рекомендации.
- Google добавила ограничения на запуск запросов, в которых обзоры с использованием искусственного интеллекта оказались не столь полезными.
- Обзоры с использованием искусственного интеллекта по важным новостным темам не будут показываться там, где решающее значение имеют "свежесть и фактичность".
Помимо этих улучшений, Google заявила, что обнаружила нарушение политики в отношении контента "менее чем в одном из каждых 7 миллионов уникальных запросов", по которым появлялись обзоры с использованием искусственного интеллекта, и приняла меры против них.
