Meta detecta conteúdo enganoso gerado por IA
Descubra como a Meta detecta IA enganosa em comentários sobre Israel e Gaza, impactando as eleições.
Na recente divulgação de seu relatório trimestral de segurança, a Meta salientou a identificação de atividades suspeitas em suas redes sociais. Comentários que louvam a atuação de Israel na guerra de Gaza chamaram a atenção por serem, provavelmente, gerados por inteligência artificial. Essas análises foram notadas em plataformas populares como Facebook e Instagram, sob publicações de significativas organizações de notícias e políticos dos Estados Unidos.
O relatório apontou que as contas envolvidas tentavam se passar por diversos grupos, incluindo estudantes judeus e afro-americanos, com o foco em audiências dos EUA e do Canadá. Essa manipulação foi vinculada a uma empresa de marketing político de Tel Aviv, conhecida como STOIC, que não se pronunciou sobre as acusações inicialmente.
O que significa a introdução de IA em campanhas políticas?
Este não é apenas um caso isolado. Desde 2019, a Meta tem encontrado imagens de perfis geradas por IA, mas recentemente, tecnologias de IA que geram textos também começaram a ser detectadas. Isso marca uma nova era onde a geração de conteúdo sintético pode se tornar uma ferramenta regular em estratégias de influência política e desinformação.
Os desafios enfrentados pela Meta com a detecção de IA
Em uma teleconferência recente, executivos da segurança da Meta explicaram que, apesar dos avanços, a tecnologia de IA ainda não produziu imagens de políticos realistas o suficiente para causar enganos. “Embora as ferramentas de IA generativa aumentem a capacidade de criar conteúdos falsos mais rapidamente, isso não impactou significativamente nossa habilidade de detectá-los”, esclareceu Mike Dvilyanski, chefe de investigações de ameaças na empresa.
Como a IA pode influenciar futuras eleições?
A Meta, juntamente com outras grandes empresas de tecnologia, tem estado na linha de frente combatendo o uso inadequado da inovação em inteligência artificial, notadamente com o foco nas eleições que se aproximam tanto na União Europeia quanto nos Estados Unidos. Esses eventos serão cruciais para testar as defesas implantadas contra o impacto potencialmente prejudicial das novas tecnologias.
As companhias estão se esforçando para instituir sistemas de rotulagem digital, para etiquetar conteúdo gerado por IA no momento de sua criação. Apesar dessas medições serem promissoras, a eficácia real ainda está em debate entre os pesquisadores, gerando preocupações sobre sua eficiência em cenários reais, especialmente em períodos eleitorais.
Assim, enquanto a tecnologia de IA continua a evoluir, as plataformas online enfrentam o constante desafio de se adaptar e proteger suas redes contra campanhas de desinformação, que buscam manipular a opinião pública e influenciar eventos eleitorais críticos. A sociedade permanece vigilante, aguardando os próximos desenvolvimentos nesta área de constante transformação.
