Governo Alemão e Instituições Memoriais Tomam uma Posicionamento
As autoridades da Alemanha, junto a várias instituições dedicadas à memória do Holocausto, solicitaram que plataformas de redes sociais interrompam a propagação de imagens falsas. Essas imagens, segundo os órgãos, distorcem e minimizam a gravidade da história do Holocausto.
Em uma carta divulgada recentemente, memorialistas de campos de concentração e centros de documentação expressaram sua preocupação em relação à crescente difusão do que é chamado de “AI slop”—imagens geradas por inteligência artificial que retratam eventos irreais, principalmente relacionados ao assassinato de mais de seis milhões de judeus durante a Segunda Guerra Mundial.
Entre os conteúdos criticados estão ilustrações emotivas que representam situações fictícias, como encontros dramáticos entre prisioneiros de campos de concentração e seus libertadores, além de imagens de crianças em situações vulneráveis atrás de arame farpado.
“O conteúdo gerado por IA distorce a história ao trivializá-la e transformá-la em algo kitsch”, afirmam as instituições na carta, datada de 13 de janeiro. Elas ressaltam que essas criações não apenas comprometem a memória coletiva, mas também geram desconfiança em relação a documentos históricos verdadeiros.
Apoio Governamental e Ações Necessárias
Wolfram Weimer, ministro da Cultura e da Mídia da Alemanha, manifestou seu apoio às instituições memoriais em suas tentativas de exigir a identificação clara de imagens geradas por IA e, em certos casos, sua remoção. “É fundamental mostrar respeito a milhões de pessoas que sofreram e foram mortas sob o regime nazista”, declarou em um comunicado enviado à Reuters.
As empresas de inteligência artificial, especialmente a xAI, de Elon Musk, que opera o chatbot Grok, também têm enfrentado crescente pressão por conta da circulação de milhares de imagens deepfake sexualizadas, envolvendo tanto mulheres quanto menores de idade. Essa prática levanta preocupações adicionais sobre a ética no uso de tecnologias de IA.
As instituições de memória apontam que algumas dessas imagens são criadas para gerar engajamento e lucro, enquanto outras visam “diluir fatos históricos, inverter os papéis de vítimas e perpetradores ou promover narrativas revisionistas”. As assinaturas da carta incluem centros de memória de locais como Bergen-Belsen, Buchenwald e Dachau, campos de concentração onde não apenas judeus, mas também ciganos, sinti, minorias sexuais e pessoas com deficiência foram assassinados.
Medidas Proativas e Desafios Contemporâneos
Segundo os signatários, as plataformas de mídia social devem adotar uma postura proativa no combate à disseminação de imagens falsas geradas por IA que abordam o Holocausto. A expectativa é que, em vez de aguardar denúncias de usuários, as redes implementem ações preventivas. As sugestões incluem a clara identificação desse tipo de conteúdo e a proibição de sua monetização.
A preocupação com a proliferação de AI slop—que pode englobar textos, imagens ou vídeos falsos—tem gerado alarmes entre especialistas. Muitos temem que esse material polua o ambiente informativo e dificulte cada vez mais a capacidade dos usuários de diferenciar entre o que é real e o que é fictício.