Президент компании Signal Мередит Уиттакер называет агентский ИИ «глубокими» проблемами безопасности и конфиденциальности

Президент компании Signal Мередит Уиттакер предупредила в пятницу, что агентский искусственный интеллект может быть сопряжен с риском для конфиденциальности пользователей.

Выступая на конференции SXSW в Остине, штат Техас, защитница безопасных коммуникаций назвала использование агентов ИИ «помещением мозга в банку» и предупредила, что эта новая парадигма вычислений — когда ИИ выполняет задачи от имени пользователей — имеет «глубокие проблемы» как с приватностью, так и с безопасностью.

Уиттакер объяснил, как агенты ИИ рекламируются в качестве способа повысить ценность вашей жизни, выполняя различные онлайн-задачи за пользователя. Например, ИИ-агенты смогут выполнять такие задачи, как поиск концертов, заказ билетов, планирование мероприятия в календаре и отправка сообщений друзьям о том, что оно забронировано.

«Значит, мы можем просто положить свой мозг в банку, потому что вещь сама это делает, и нам не нужно ее трогать, верно?», — размышляет Уиттакер.

Затем она объяснила, какой доступ потребуется агенту ИИ для выполнения этих задач, включая доступ к нашему веб-браузеру и способ управления им, а также доступ к данным нашей кредитной карты для оплаты билетов, нашему календарю и приложению для обмена сообщениями, чтобы отправить текст друзьям.

«Он должен быть способен управлять этим [процессом] во всей нашей системе с правами, похожими на права root, получая доступ к каждой из этих баз данных — вероятно, в открытом виде, поскольку не существует модели, позволяющей делать это в зашифрованном виде», — предупреждает Уиттакер.

«И если мы говорим о достаточно мощной… модели искусственного интеллекта, которая поддерживает это, то нет никаких шансов, что это происходит на устройстве», — продолжила она. «Почти наверняка это отправляется на облачный сервер, где обрабатывается и отправляется обратно. Таким образом, существует глубокая проблема безопасности и конфиденциальности, которая преследует всю эту шумиху вокруг агентов и которая в конечном итоге грозит разрушить кровеносный барьер между уровнем приложений и уровнем ОС, объединив все эти отдельные службы [и] запутав их данные», — заключает Уиттакер.

По ее словам, если такое приложение для обмена сообщениями, как Signal, будет интегрировано с агентами искусственного интеллекта, это подорвет конфиденциальность ваших сообщений. Агент должен получить доступ к приложению, чтобы переписываться с вашими друзьями, а также получать данные, чтобы обобщить эти сообщения.

Ее комментарии последовали за высказываниями, которые она сделала ранее в ходе дискуссии о том, что индустрия ИИ была построена на модели наблюдения с массовым сбором данных. Она сказала, что парадигма «чем больше, тем лучше» — то есть чем больше данных, тем лучше — имеет потенциальные последствия, которые она не считает хорошими.

Уиттакер предупреждает, что агентский ИИ еще больше подорвет конфиденциальность и безопасность во имя «волшебного бота-джинна, который позаботится о жизненных потребностях», — заключила она.