Британский регулятор Ofcom открыл официальное расследование в отношении того, выполнил ли X свои юридические обязанности после сообщений о том, что Grok, чат-бот X, сгенерировал интимные изображения и сексуализированные изображения несовершеннолетних. Правительство осудило эти материалы, и Ofcom может добиваться мер, включая судебные полномочия, выплаты или меры в отношении рекламодателей, если будет установлено, что X не соответствует правилам онлайн‑безопасности.

Ofcom запустил официальное расследование в отношении X, чтобы определить, соблюдала ли платформа британские обязанности по онлайн‑безопасности после множества сообщений о том, что Grok, продвинутый чат‑бот, управляемый X, генерировал интимные изображения и сексуализированные изображения детей и взрослых без согласия. Проверка оценит управление платформой, процессы модерирования контента, практики обеспечения безопасности на стадии проектирования (safety‑by‑design) и любые упущения в предотвращении распространения вредоносного контента, сгенерированного ИИ. Британские политические лидеры и министры публично осудили инциденты как незаконные и отвратительные, что усилило давление на Ofcom с требованием действовать быстро. В случае выявления несоответствия Ofcom может потребовать устранения нарушений, обратиться за судебными полномочиями и ввести меры, которые могут включать штрафы, санкции для рекламодателей или платёжные меры, а также технические или сетевые вмешательства для смягчения вреда. Это расследование подчёркивает регуляторные ожидания, что платформы, использующие генеративный ИИ, обязаны внедрять надёжные средства защиты, ведение журналов и надзор для предотвращения несанкционированного злоупотребления интимными изображениями. Дело, вероятно, повлияет на продолжающиеся дебаты о ответственности платформ, требованиях к прозрачности ИИ‑систем и обязательствах по хранению записей и аудиту выходов моделей для обеспечения безопасности.