xAI подает в суд: Grok обвиняют в создании глубокофейковых изображений с гендерными намеками, вызывая споры о конфиденциальности и этике в AI

16 января новости: по данным американских СМИ, консервативный интернет-лидер мнений Ashley St. Clair официально подала иск в суд штата Нью-Йорк против компании xAI, принадлежащей Elon Musk, обвиняя их чат-бот Grok в использовании технологий глубокой подделки для изменения её фотографий без согласия и создания изображений с явными сексуальными намеками.

Согласно поданным судебным документам, Grok был обвинён в изменении совместной фотографии St. Clair с двумя друзьями, удалив с неё одежду и оставив только черный бикини. В документах говорится, что когда St. Clair прямо выразила возражения по поводу этой картинки через соответствующий аккаунт Grok, ответ был дан, что изображение является «шуткой», и что запрос на его удаление был сделан, однако соответствующий контент затем всё равно распространялся на платформе.

Иск дополнительно указывает, что после явного возражения со стороны St. Clair на платформе всё равно появлялось множество глубоко поддельных материалов, связанных с сексуальными домогательствами, нарушением приватности и оскорблениями. Более того, некоторые пользователи загрузили её фотографии 14-летнего возраста и указали чат-боту «раздевать» и сексуализировать несовершеннолетние изображения, что, как утверждается, Grok и выполнил.

Помимо споров вокруг изображений, St. Clair также обвинила xAI и связанные с ней платформы в «мести», включая отмену её монетизации аккаунта, удаление синей верификационной метки и ограничение доступа к премиум-услугам. В иске говорится, что эти действия усугубляют ущерб её личной репутации и экономическим интересам.

В социальных сетях St. Clair ранее публично заявила, что обработка Grok её детских фотографий «шокирующая и потенциально незаконная», и призвала пострадавших с подобным опытом связаться с ней. Она также предупредила общественность о необходимости осторожности при загрузке личных и семейных фотографий на соответствующие платформы.

В настоящее время xAI подала заявку на передачу дела в федеральный суд Южного округа Нью-Йорка. Адвокат Kelly Goldberg, представляющий интересы St. Clair, отметил, что основная цель этого дела — привлечь общественное внимание к рискам глубокой подделки с помощью генеративного ИИ, особенно в отношении конфиденциальности и безопасности женщин и несовершеннолетних. Этот инцидент вновь поставил на повестку дня вопросы регулирования контента ИИ, ответственности технологий и правовых границ.