separador
Atualizado:
Nesta terça-feira (20), a Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) responderam à denúncia apresentada pelo Idec sobre a inteligência artificial Grok, integrada à plataforma X (antigo Twitter), com recomendações e solicitações de informações à empresa diante de relatos de uso indevido da ferramenta, incluindo situações envolvendo dados pessoais e geração de imagens sexualizadas, inclusive com indícios relacionados a crianças e adolescentes.
O Idec acompanha o caso desde os primeiros alertas públicos e seguirá atuando para que as providências necessárias sejam adotadas com agilidade e transparência, priorizando a proteção de direitos no ambiente digital.
Entenda o caso e por que o Idec acionou as autoridades
O Instituto alertou que o sistema pode criar imagens íntimas usando fotos de pessoas sem consentimento, ampliando exposição, humilhação pública e danos que podem ser irreversíveis. Ainda assim, a resposta não veio acompanhada de ações imediatas para interromper o risco. Na prática, a ferramenta segue operando enquanto são solicitadas informações e providências à plataforma.
O que é Grok e por que o uso indevido vira uma crise de direitos
O Grok é uma ferramenta de inteligência artificial integrada ao X, capaz de gerar conteúdo a partir de comandos, incluindo imagens. O problema não está só na tecnologia em si, mas no modo como ela pode ser usada, ou permitir ser usada, para violar direitos.
Nos casos denunciados, a ferramenta foi associada à criação e circulação de imagens sexualizadas a partir de fotos de pessoas reais, muitas vezes sem consentimento. Isso reforça a importância de respostas proporcionais ao risco, com medidas que previnam novos danos e ampliem a responsabilização quando houver violação. Para o Idec, os riscos Grok já se conectam a situações concretas relatadas por pessoas brasileiras e exigem atenção prioritária das empresas e do poder público.
Regulamentação e fiscalização no ambiente digital precisam acompanhar a realidade
O caso do Grok evidencia desafios atuais de fiscalização no ambiente digital, em que ferramentas baseadas em inteligência artificial operam em grande escala e podem gerar impactos rapidamente. A legislação brasileira já prevê atribuições para órgãos de proteção de dados e de defesa das pessoas consumidoras, inclusive para adoção de medidas cautelares quando houver risco relevante.
O episódio também reforça o debate sobre regulamentação e sobre mecanismos mais efetivos de prevenção, responsabilização e reparação de danos em casos que envolvem tecnologia e direitos fundamentais. O Idec seguirá vigilante, cobrando providências para proteger a privacidade e a segurança de mulheres, crianças e adolescentes no uso de ferramentas de inteligência artificial.
