Автор SB 1047 представляет новый законопроект об искусственном интеллекте в Калифорнии
State Senator Scott Wiener, a Democrat from California, right, during the Bloomberg BNEF Summit in San Francisco, California, US, on Wednesday, Jan. 31, 2024. The summit provides the ideas, insights and connections to formulate successful strategies, capitalize on technological change and shape a cleaner, more competitive future. Photographer: David Paul Morris/Bloomberg via Getty Images
Автор калифорнийского законопроекта SB 1047, самого противоречивого в стране законопроекта о безопасности ИИ 2024 года, вернулся с новым законопроектом об ИИ, который может потрясти Кремниевую долину.
Сенатор от штата Калифорния Скотт Винер представил в пятницу новый законопроект, который защитит сотрудников ведущих лабораторий искусственного интеллекта, позволив им высказывать свое мнение, если они считают, что системы ИИ их компании могут представлять «критический риск» для общества. Новый законопроект, SB 53, также предусматривает создание публичного облачного вычислительного кластера под названием CalCompute, чтобы предоставить исследователям и стартапам необходимые вычислительные ресурсы для разработки ИИ, приносящего пользу обществу.
Последний законопроект Винера об искусственном интеллекте, калифорнийский SB 1047, вызвал оживленную дискуссию по всей стране о том, как обращаться с массивными системами искусственного интеллекта, которые могут стать причиной катастроф. Цель SB 1047 заключалась в том, чтобы предотвратить возможность возникновения катастрофических событий, таких как гибель людей или кибератаки на сумму более 500 миллионов долларов. Однако губернатор Гэвин Ньюсом в сентябре наложил вето на этот законопроект, заявив, что SB 1047 — не лучший подход.
Но дебаты вокруг SB 1047 быстро переросли в уродливую форму. Некоторые лидеры Кремниевой долины заявили, что SB 1047 повредит конкурентоспособности Америки в глобальной гонке ИИ, и утверждали, что законопроект был вдохновлен нереалистичными страхами, что системы ИИ могут привести к сценариям конца света, похожим на научную фантастику. Между тем, сенатор Винер утверждал, что некоторые венчурные капиталисты ведут «пропагандистскую кампанию» против его законопроекта, в частности, ссылаясь на заявление Y Combinator о том, что SB 1047 отправит основателей стартапов в тюрьму, что, по мнению экспертов, вводит в заблуждение.
СБ 53, по сути, берет наименее спорные части SB 1047 — такие как защита информаторов и создание кластера CalCompute — и упаковывает их в новый законопроект об искусственном интеллекте.
СБ 53, по сути, берет наименее спорные части SB 1047 — такие как защита информаторов и создание кластера CalCompute — и упаковывает их в новый законопроект об искусственном интеллекте.
Примечательно, что Винер не уклоняется от экзистенциального риска ИИ в SB 53. Новый законопроект специально защищает информаторов, которые считают, что их работодатели создают системы ИИ, представляющие «критический риск». Законопроект определяет критический риск как « предвидимый или существенный риск того, что разработка, хранение или развертывание разработчиком модели фундамента, как это определено, приведет к смерти или серьезным травмам более 100 человек, или к ущербу правам на деньги или имущество на сумму более 1 миллиарда долларов»
.
SB 53 ограничивает разработчиков пограничных моделей ИИ — среди которых, вероятно, OpenAI, Anthropic и xAI — от преследования сотрудников, которые раскрывают важную информацию генеральному прокурору Калифорнии, федеральным властям или другим сотрудникам. Согласно законопроекту, эти разработчики должны будут отчитываться перед информаторами о некоторых внутренних процессах, которые информаторы сочтут сомнительными.
Что касается CalCompute, SB 53 предусматривает создание группы для создания кластера публичных облачных вычислений. В состав группы войдут представители Калифорнийского университета, а также другие государственные и частные исследователи. Она будет давать рекомендации о том, как построить CalCompute, насколько большим должен быть кластер и какие пользователи и организации должны иметь доступ к нему.
Конечно, законодательный процесс по SB 53 находится на ранней стадии. Законопроект должен быть рассмотрен и принят законодательными органами Калифорнии, прежде чем он попадет на стол губернатора Ньюсома. Законодатели штата, несомненно, будут ждать реакции Кремниевой долины на SB 53.
.
Кроме того, 2025 год может оказаться более сложным для принятия законопроектов о безопасности ИИ по сравнению с 2024 годом. В 2024 году в Калифорнии было принято 18 законопроектов, связанных с ИИ, но теперь кажется, что движение в защиту ИИ утратило свою актуальность.
Вице-президент Джей Ди Вэнс на саммите по действиям в области ИИ в Париже дал понять, что Америка не заинтересована в безопасности ИИ, а скорее отдает предпочтение инновациям в области ИИ. Хотя кластер CalCompute, созданный в соответствии с SB 53, несомненно, можно считать продвижением прогресса в области ИИ, неясно, как будут развиваться законодательные усилия, связанные с экзистенциальным риском ИИ, в 2025 году.
