Власти Индонезии приняли решение временно ограничить работу ИИ чат-бота Grok, разработанного компанией Илона Маска xAI. Об этом сообщает The Guardian.
Это первая страна, принявшая такие меры из-за опасений, что искусственный интеллект может создавать порнографический контент. Поводом для запрета стало использование функции редактирования изображений – при помощи реплаев с упоминанием @grok.
Почти сразу после запуска функции пользователи начали массово просить Grok «раздеть» фотографии женщин без их согласия. Чат-бот, в том числе подчиняется, когда его просят сгенерировать сексуализированные ИИ-картинки с участием несовершеннолетних. Такие дипфейки власти Индонезии назвали грубым нарушением прав человека и цифровой безопасности граждан.
Днем ранее xAI «ограничила» доступ к редактированию изображений для большинства пользователей, оставив эту функцию только платным подписчикам.
Сейчас против Илона Маска и его чатбота Grok также планируют «принять меры» в Великобритании. Власти поручили Ofcom использовать все свои полномочия, включая полную блокировкку, чтобы повлиять на ситуацию.
Напомним, в сети Grok были сгенерированы откровенные фото несовершеннолетних в сети X.