Калифорнийские законодатели уже на этой неделе намерены проголосовать по законопроекту, который будет в целом регулировать разработку и внедрение искусственного интеллекта в Калифорнии, несмотря на то, что ряд технологических гигантов высказались против.
Вот предыстория законопроекта, известного как SB 1047, и почему он вызвал негативную реакцию со стороны технологов Кремниевой долины и некоторых законодателей:
ЧТО ЭТОТ ЗАКОНОПРОЕКТ ДЕЛАЕТ?
Выдвинутое сенатором штата Скоттом Винером, демократом, предложение предусматривает проведение испытаний на безопасность многих самых передовых моделей искусственного интеллекта, разработка которых обходится более чем в 100 миллионов долларов, или тех, которые требуют определенного объема вычислительной мощности. Разработчикам программного обеспечения для искусственного интеллекта, работающим в штате, также необходимо будет разработать методы отключения моделей искусственного интеллекта, если они пойдут наперекосяк.
Законопроект также наделит генерального прокурора штата полномочиями подавать в суд, если разработчики не соблюдают требования, особенно в случае постоянной угрозы, такой как захват ИИ государственных систем, таких как энергосистема.
Кроме того, законопроект потребует от разработчиков нанимать сторонних аудиторов для оценки их методов обеспечения безопасности и предоставления дополнительной защиты заявителям, выступающим против злоупотреблений ИИ.
ЧТО СКАЗАЛИ ЗАКОНОДАТЕЛИ?
Законопроект № 1047 уже одобрен Сенатом штата 32 голосами против 1. На прошлой неделе он был одобрен комитетом по ассигнованиям Ассамблеи штата, что привело к голосованию всего Собрания. Если законопроект будет принят к концу законодательной сессии 31 августа, губернатор Гэвин Ньюсом сможет подписать его или наложить вето до 30 сентября.
Винер, представляющий Сан-Франциско, где находится OpenAI и многие стартапы, разрабатывающие мощное программное обеспечение, заявил, что законодательство необходимо для защиты общественности, прежде чем достижения в области искусственного интеллекта станут громоздкими или неконтролируемыми.
Однако группа демократов в Конгрессе Калифорнии выступает против законопроекта, в том числе Нэнси Пелоси из Сан-Франциско, Ро Ханна, чей избирательный округ охватывает большую часть Кремниевой долины, и Зои Лофгрен из Сан-Хосе.
Пелоси на этой неделе назвала SB 1047 плохо информированным и сказала, что это может принести больше вреда, чем пользы. В открытом письме, опубликованном на прошлой неделе, демократы заявили, что законопроект может вытеснить разработчиков из штата и поставить под угрозу так называемые модели искусственного интеллекта с открытым исходным кодом, которые основаны на коде, который может свободно использовать или модифицировать любой желающий.
ЧТО ГОВОРЯТ ТЕХНИЧЕСКИЕ ЛИДЕРЫ?
Технологические компании, разрабатывающие искусственный интеллект, который может отвечать на запросы полностью сформированным текстом, изображениями или звуком, а также выполнять повторяющиеся задачи с минимальным вмешательством, призвали к созданию более надежных барьеров для внедрения ИИ. Среди прочих опасений они указали на риски того, что программное обеспечение может в один прекрасный день избежать вмешательства человека и стать причиной кибератак. Но они также в значительной степени отказались от SB 1047.
Винер пересмотрел законопроект, чтобы успокоить технологические компании, частично опираясь на информацию от стартапа в области искусственного интеллекта Anthropic, поддерживаемого Amazon и Alphabet. Среди других изменений он отменил создание правительственного комитета по надзору за искусственным интеллектом.
Винер также ввел уголовное наказание за лжесвидетельство, хотя гражданские иски все еще могут быть поданы.
Google и Meta из Alphabet выразили обеспокоенность в письмах Винеру. Meta заявила, что законопроект угрожает создать неблагоприятные условия для разработки и внедрения искусственного интеллекта. Главный научный сотрудник родительской компании Facebook Ян Лекун в июльской публикации X назвал законопроект потенциально вредным для научных исследований.
OpenAI, чей ChatGPT, как считается, способствовал росту популярности ИИ с момента его широкого распространения в конце 2022 года, заявил, что ИИ должен регулироваться федеральным правительством и что SB 1047 создает неопределенную правовую среду.
Особую озабоченность вызывает потенциальное применение законопроекта к моделям искусственного интеллекта с открытым исходным кодом. Многие технологи считают, что модели с открытым исходным кодом важны для более быстрого создания менее рискованных приложений ИИ, но Meta и другие обеспокоены тем, что их могут привлечь к ответственности за контроль над моделями с открытым исходным кодом, если законопроект будет принят. Винер заявил, что поддерживает модели с открытым исходным кодом, и одна из недавних поправок к законопроекту повысила стандарт, согласно которому модели с открытым исходным кодом подпадают под его действие.
У законопроекта также есть свои сторонники в технологическом секторе. Джеффри Хинтон, широко известный как "крестный отец искусственного интеллекта", бывший сотрудник OpenAI Даниэль Кокотайло и исследователь Йошуа Бенгио заявили, что поддерживают законопроект.
(За исключением заголовка, эта история не редактировалась сотрудниками NDTV и опубликована на синдицированном канале.)
