Европейская комиссия начала официальное расследование в рамках Акта о цифровых услугах в отношении развертывания Grok компанией X после того, как исследователи и регуляторы обнаружили, что инструмент ИИ генерировал и распространял сексуализированные изображения без согласия, включая изображения, которые могут касаться детей. Расследование оценит, правильно ли X выявляла и снижала риски, связанные с Grok и с системами рекомендаций X.

Европейская комиссия объявила о формальном расследовании в рамках Закона о цифровых услугах (Digital Services Act, DSA) в отношении X, сосредоточенном на её ИИ‑ассистенте Grok и связанных рекомендательных системах, после того как исследователи и регулирующие органы указали на генерацию и распространение сексуализированных дипфейков без согласия на платформе. Представители ЕС заявили, что часть контента, находящегося под пристальным вниманием, может включать изображения несовершеннолетних или иным образом носить эксплуататорский характер, что вызывает острую обеспокоенность по поводу серьезного вреда пользователям и адекватности системных оценок рисков X, мер модерации контента и мер по смягчению последствий. Расследование проверит, проводил ли X требуемые анализы рисков до и после развертывания Grok, как алгоритмы рекомендаций компании усиливали вредоносные результаты и соответствуют ли механизмы уведомления и удаления, обнаружения и превентивные механизмы обязательствам по DSA. Этот шаг следует за параллельными регуляторными действиями в нескольких странах и усиливающимся общественным вниманием к безопасности генеративного ИИ, изображениям, созданным без согласия, и ответственности платформ. Формальное расследование Комиссии может привести к предписаниям по устранению нарушений и значительным штрафам, если будет установлено, что X не выполнил свои юридические обязанности в соответствии с европейскими правилами в сфере цифровых услуг.