A Comissão Europeia enviou um pedido de informações sobre a concepção e funcionamento de sistemas de recomendação ao YouTube, Snapchat e TikTok. Os sistemas de recomendação são algoritmos de aprendizado de máquina que usam dados para sugerir itens nos quais um usuário possa estar interessado.
No entanto, ao abrigo da Lei dos Serviços Digitais (DSA), o regulamento de moderação de conteúdos histórico da UE, a Comissão afirmou que estes estão no “coração” dos riscos sistémicos que as plataformas apresentam aos utilizadores.
Em comunicado divulgado na quarta-feira (2 de setembro), a Comissão da UE disse: “No âmbito da DSA, as plataformas têm de avaliar e mitigar adequadamente os riscos decorrentes dos seus sistemas de recomendação, incluindo riscos para a saúde mental dos utilizadores e a disseminação de conteúdos nocivos decorrentes da concepção baseada no envolvimento destes algoritmos.”
Solicitamos informações ao YouTube, Snapchat e TikTok sobre o design de seus sistemas de recomendação de acordo com a Lei de Serviços Digitais.
YouTube e Snapchat devem detalhar os parâmetros de seus algoritmos e amplificação de risco.
TikTok deve explicar medidas contra manipulação e… pic.twitter.com/usQkKHfPH4
— Comissão Europeia (@EU_Commission) 2 de outubro de 2024
Os pedidos “também dizem respeito às medidas das plataformas para mitigar a influência potencial dos seus sistemas de recomendação na propagação de conteúdos ilegais, como a promoção de drogas ilegais e o discurso de ódio”.
A Comissão afirmou ter solicitado à TikTok mais informações sobre as medidas que a empresa implementou para evitar que maus atores manipulem a plataforma e para mitigar os riscos relacionados com as eleições e o discurso cívico.
O YouTube e o Snapchat terão de responder a questões relativas aos parâmetros dos seus algoritmos de recomendação e ao seu papel potencial na amplificação dos riscos sistémicos, incluindo os relacionados com a proteção de menores.
As três empresas de mídia social tiveram até 15 de novembro para fornecer os dados. A UE disse que as suas respostas informarão quaisquer próximos passos, incluindo potencialmente a abertura de investigações formais e possíveis multas.
UE abre processo formal contra Meta por causa de seu sistema de recomendação
A UE já iniciou processos de incumprimento ao abrigo da DSA, o que obriga as empresas de tecnologia a tomar medidas mais fortes contra conteúdos ilegais e prejudiciais nas suas plataformas. Os processos estão relacionados às recomendações fornecidas pelo Facebook e Instagram da Meta, AliExpress e TikTok.
A Comissão não aborda a Meta, a empresa-mãe do Facebook e do Instagram, porque as mesmas questões foram abordadas no processo formal aberto contra a empresa em maio.
ReadWrite relatou que o órgão disse estar preocupado com o fato de os sistemas do Facebook e do Instagram, incluindo seus algoritmos, poderem estimular vícios comportamentais em crianças, bem como criar os chamados “efeitos de toca de coelho”.
Imagem em destaque: meio da jornada
A postagem UE questiona YouTube, Snapchat e TikTok sobre seus sistemas de recomendação de IA apareceu pela primeira vez no ReadWrite.
