Босс ChatGPT призывает создать новое правительственное агентство чтобы держать под контролем компании искусственного интеллекта

Генеральный директор компании OpenAI Сэм Альтман, руководитель отдела конфиденциальности и доверия компании IBM Кристина Монтгомери и заслуженный профессор Нью-Йоркского университета доктор Гэри Маркус были допрошены сегодня подкомитетом Сената США о потенциальных рисках искусственного интеллекта и о том, как его следует регулировать. Законодатели выразили обеспокоенность по поводу потенциальной возможности дезинформации и неточностей, генерируемых ИИ (чат-боты склонны лгать), политической предвзятости и нарушения авторских прав.

Альтман заявил сенаторам, что эта развивающаяся технология требует «регулирующего вмешательства со стороны правительств», что «крайне важно для снижения рисков все более мощных моделей». Для этого, по словам генерального директора OpenAI, необходимо наделить агентство или агентства полномочиями по созданию и обеспечению соблюдения правил для индустрии ИИ, выдавая компаниям ИИ лицензии и отзывая их, если их технологии начинают работать нештатно.

Д-р Маркус также согласился с тем, что создание нового правительственного агентства будет лучшим способом регулирования ИИ, заявив, что нам «вероятно, нужна организация на уровне кабинета министров». В своем вступительном слове он сравнил модели ИИ с «быками в посудной лавке».

Одна большая проблема, которая часто всплывала в ходе слушаний, касалась создания произведений искусства ИИ и авторских прав. Альтман рассказал сенаторам, что OpenAI работает над системой авторского права, которая будет платить художникам, если их работы будут использоваться для создания нового искусства, заявив, что «художники заслуживают контроля». Альтман также добавил, что новые правила должны требовать, чтобы на изображениях, сгенерированных ИИ, указывалось, что они были созданы с помощью инструментов ИИ.

Почему Альтман, генеральный директор одного из крупнейших игроков в области ИИ, так увлечен регулированием? Не исключая возможности того, что у него есть искренние опасения, в прошлом влиятельные компании с большими ресурсами призывали к регулированию, когда считали его неизбежным и хотели повлиять на него, или чтобы затруднить проникновение в отрасль более мелких стартапов. Хотя профессор Маркус выступает за регулирование, он называет это «захватом регулирования», когда при неправильном подходе новое регулирование может непреднамеренно создать монополию ИИ.

Сенатор Блюменталь, председатель подкомитета, сказал, что правительство может «создать десять новых агентств, но если вы не дадите им ресурсов», крупные компании ИИ будут «бегать кругами» вокруг них.

Источник: https://ii-review.ru/