De acordo com os criadores de “Decoding anti-semitism”, uma abordagem colaborativa é necessária para combater o anti-semitismo na Internet. Mas os especialistas se perguntam: a tecnologia existe?
Enquanto as plataformas de mídia social tomam medidas para bloquear a negação do Holocausto, um projeto interdisciplinar está aproveitando a inteligência artificial (IA) na batalha contra o anti-semitismo online.
“Decoding anti-semitism” é uma colaboração entre o King’s College London e o Centro de Pesquisa sobre anti-semitismo da Technical University of Berlin. O projeto é financiado pela Fundação Alfred Landecker, que contribui com 250 milhões de euros ao longo de 10 anos.
A Fundação Landecker foi criada no ano passado pela JAB Holding Company, com sede na Alemanha. Propriedade da conhecida família Reimann, o predecessor da empresa na era nazista fez uso de pelo menos 838 trabalhadores forçados durante a guerra. Hoje, a JAB Holding Company possui subsidiárias, incluindo Panera Bread, Au Bon Pain e Krispy Kreme.
O líder da empresa durante a guerra, Albert Reimann Junior, era um nazista devoto que mantinha um relacionamento contínuo com a filha de um judeu – Alfred Landecker. Seu romance “proibido” gerou três filhos. Landecker foi levado pela Gestapo para um gueto em Izbica, a atual Polônia, onde seus rastros desapareceram. Presume-se que ele foi transferido para um campo de extermínio nazista, onde morreu.
Em 2016, a família Reimann começou a encomendar pesquisas sobre os laços nazistas. “Mas a família Reimann não se contentava em simplesmente descobrir o seu passado. Os herdeiros da empresa também estão preocupados em apoiar os sobreviventes do Holocausto e, como uma lição aprendida com a história para hoje, promover a democracia e os direitos humanos para preservar e expandir uma sociedade pluralista”, diz o site da Landecker Foundation.
“Aprenda diretamente com o humano”
A missão central da recém-criada Fundação Landecker é compartilhar a história do Holocausto e lutar contra o anti-semitismo, principalmente na Internet. Por meio do projeto “Decodificando o anti-semitismo” da fundação, uma ferramenta de detecção de código aberto está sendo criada para se alinhar às plataformas de mídia social, disse o designer-chefe David Allington.
“Os esforços contínuos do Facebook e do Twitter para combater o discurso de ódio online são bem-intencionados, mas ficam aquém do que é necessário”, disse Allington, um professor sênior em inteligência artificial social e cultural no King’s College London.
“Onde nossa abordagem difere daquela do [Facebook e Twitter] é que usaremos não apenas IA, mas também o apoio de historiadores, linguistas e outros disciplinadores para reconhecer sentimentos [anti-semitas]”, disse Allington ao The Times de Israel.
A “complexidade” da expressão anti-semita na Internet exige uma abordagem interdisciplinar, disse Allington. Por exemplo, o Reino Unido viu uma onda de “mitos de conspiração” acusando os judeus de criar e espalhar COVID-19. Muito da linguagem e das imagens são “codificadas”, disse o designer, e expressas em outros termos menos familiares.
De acordo com a especialista em IA, Katie Hall, existem limitações significativas quando se trata de usar IA para identificar e combater o discurso de ódio. Algumas dessas limitações vêm dos conjuntos de dados usados pelas empresas Big Tech, disse ela.
“Homens e mulheres e diferentes raças e grupos étnicos se descrevem de maneira diferente”, disse Hall. “Sabemos que esses diferentes grupos usam a linguagem de maneira diferente, e a maioria dos dados históricos é criada por grupos específicos – com ensino superior e brancos.”
Como fundador e CEO do mercado de contratação baseado em IA, Claira, Hall ajuda as empresas a recrutar grupos mais diversos de candidatos para seus cargos.
“Estamos tentando nivelar o campo de jogo e ser deliberados e cuidadosos ao remover o preconceito”, disse Hall ao The Times of Israel.
Atualmente, os conjuntos de dados dependem fortemente da análise de texto, disse Hall. Poucos algoritmos foram treinados com – por exemplo – trocas de áudio ou encontros filmados. No entanto, disse Hall, há “um movimento em andamento para integrar voz, conversação e vídeo aos conjuntos de dados”.
De acordo com Hall, “é necessário aprender diretamente com o humano. Este é o momento oportuno agora – se queremos descobrir uma maneira de detectar preconceitos ou não. A humanidade é muito variada e os conjuntos de dados estão realmente muito atrás.”
“Lutando com uma mão nas costas”
“Decodificar o anti-semitismo” dificilmente é o primeiro esforço para combater o discurso de ódio online. Nos últimos anos, dezenas de fundações e organizações tentaram lidar com o aumento do discurso de ódio contra judeus e outros grupos.
“O que quer que essas organizações estejam fazendo, não está funcionando”, disse Andreas Eberhardt, diretor fundador e CEO da Fundação Alfred Landecker.
“É por isso que adotamos essa abordagem colaborativa e nas próximas semanas, meses e anos, a parceria verá analistas do discurso, linguistas computacionais e historiadores se unirem, combinando sua experiência para um objetivo comum”, disse Eberhardt em entrevista ao The Tempos de Israel.
“Essa colaboração é a única maneira de progredir nessa questão e não fazer isso seria como lutar com uma das mãos nas costas”, disse Eberhardt, que liderou várias fundações comprometidas com as relações entre judeus e alemães e a memória do Holocausto.
De acordo com o conferencista sênior Allington, a maioria das difamações contra os judeus na Internet são “não sancionadas”. E antes que a difamação possa ser sancionada – ou punida – ela deve ser identificada, disse ele.
“Assim que [o discurso de ódio] for revelado, como nosso projeto espera fazer, a escala do problema ficará clara e as organizações que estão em posição de remover tal conteúdo – as plataformas nas quais eles são postados – serão obrigadas para agir e vamos pressioná-los a fazê-lo”, disse Allington.
De ataques terroristas anti-semitas na França ao tiroteio na sinagoga de Pittsburgh em 2018, o discurso de ódio online pode levar à violência no mundo real.
“Vemos que o discurso de ódio online e os crimes de ódio estão, até certo ponto, sempre conectados”, disse Matthias J. Becker, lingüista da Universidade Técnica de Berlim e líder do projeto “Decodificando o anti-semitismo”.
“Para evitar que cada vez mais usuários se radicalizem na web, é importante identificar as reais dimensões do anti-semitismo – levando também em consideração as formas implícitas que podem se tornar mais explícitas com o tempo”, disse Becker.
Publicado em 26/12/2020 20h22
Artigo original:
Achou importante? Compartilhe!