Смена поз, откровенные наряды и обход фильтров. Нейросеть Илона Маска продолжает штамповать сексуализированные дипфейки
NewsMakerГромкие обещания руководства оказались пустым звуком.
Обещания xAI навести порядок вокруг Grok пока расходятся с тем, что происходит на платформе X. Несмотря на январский скандал , проверки регуляторов и публичные заверения компании, пользователи по-прежнему находят способы заставить чат-бота создавать сексуализированные дипфейки с изображениями реальных женщин без их согласия.
NBC News сообщает , что за последний месяц в X обнаружили десятки таких изображений и видео, созданных с помощью Grok. Речь идёт не о полностью обнажённых кадрах, как во время зимней волны публикаций, но о роликах и картинках, где женщин переодевают в откровенные костюмы, меняют позы или усиливают акцент на интимных частях тела. Среди жертв часто оказываются певицы и актрисы .
После январского резонанса xAI заявляла , что ввела технические ограничения и запретила использовать Grok для «раздевания» реальных людей. Однако журналисты выяснили, что пользователи уже приспособились обходить часть фильтров.
Один из популярных приёмов сводится к загрузке двух изображений сразу, например фотографии знаменитости и схематичного рисунка с нужной позой. В других случаях Grok просят перенести одежду с одного снимка на другой или превратить обычную фотографию в видео с сексуализированным движением.
По данным NBC News, найти примеры оказалось несложно даже через обычный поиск в X. После запроса редакции часть публикаций исчезла, а компания заявила, что запрещает несогласованные откровенные дипфейки и следит за попытками обойти защиту. Тем не менее, подобного материала от таких заявлений меньше не становится.
Специалисты и правозащитные организации считают, что проблема никуда не делась, просто стала менее заметной. Женевьева О, которая изучает дипфейки, полагает, что Grok остаётся крупнейшим в мире инструментом для создания синтетических изображений с несогласованной сексуализацией. В Center for Countering Digital Hate также заявили , что продолжают находить новые примеры злоупотреблений.
Ситуация уже вышла далеко за рамки репутационного кризиса. Восемь регуляторов и правоохранительных структур в США, Канаде, Австралии и Европе подтвердили NBC News, что продолжают проверки. В Нидерландах суд в прошлом месяце обязал прекратить генерацию изображений, имитирующих «раздевание» взрослых и детей. Параллельно xAI сталкивается с несколькими исками , включая коллективные претензии в Калифорнии и отдельное дело, поданное городом Балтимор.
История бьёт и по бизнесу Илона Маска. В феврале xAI вошла в состав SpaceX, а значит возможные штрафы и судебные риски могут затронуть уже более крупную часть империи миллиардера. На таком фоне январские обещания быстро закрыть лазейки для Grok выглядят всё менее убедительно.
Обещания xAI навести порядок вокруг Grok пока расходятся с тем, что происходит на платформе X. Несмотря на январский скандал , проверки регуляторов и публичные заверения компании, пользователи по-прежнему находят способы заставить чат-бота создавать сексуализированные дипфейки с изображениями реальных женщин без их согласия.
NBC News сообщает , что за последний месяц в X обнаружили десятки таких изображений и видео, созданных с помощью Grok. Речь идёт не о полностью обнажённых кадрах, как во время зимней волны публикаций, но о роликах и картинках, где женщин переодевают в откровенные костюмы, меняют позы или усиливают акцент на интимных частях тела. Среди жертв часто оказываются певицы и актрисы .
После январского резонанса xAI заявляла , что ввела технические ограничения и запретила использовать Grok для «раздевания» реальных людей. Однако журналисты выяснили, что пользователи уже приспособились обходить часть фильтров.
Один из популярных приёмов сводится к загрузке двух изображений сразу, например фотографии знаменитости и схематичного рисунка с нужной позой. В других случаях Grok просят перенести одежду с одного снимка на другой или превратить обычную фотографию в видео с сексуализированным движением.
По данным NBC News, найти примеры оказалось несложно даже через обычный поиск в X. После запроса редакции часть публикаций исчезла, а компания заявила, что запрещает несогласованные откровенные дипфейки и следит за попытками обойти защиту. Тем не менее, подобного материала от таких заявлений меньше не становится.
Специалисты и правозащитные организации считают, что проблема никуда не делась, просто стала менее заметной. Женевьева О, которая изучает дипфейки, полагает, что Grok остаётся крупнейшим в мире инструментом для создания синтетических изображений с несогласованной сексуализацией. В Center for Countering Digital Hate также заявили , что продолжают находить новые примеры злоупотреблений.
Ситуация уже вышла далеко за рамки репутационного кризиса. Восемь регуляторов и правоохранительных структур в США, Канаде, Австралии и Европе подтвердили NBC News, что продолжают проверки. В Нидерландах суд в прошлом месяце обязал прекратить генерацию изображений, имитирующих «раздевание» взрослых и детей. Параллельно xAI сталкивается с несколькими исками , включая коллективные претензии в Калифорнии и отдельное дело, поданное городом Балтимор.
История бьёт и по бизнесу Илона Маска. В феврале xAI вошла в состав SpaceX, а значит возможные штрафы и судебные риски могут затронуть уже более крупную часть империи миллиардера. На таком фоне январские обещания быстро закрыть лазейки для Grok выглядят всё менее убедительно.