Resumo

• Vídeos infantis feitos por IA transmitem desinformação e incentivam comportamentos arriscados.
• Segundo a revista de ciência Undark, um exemplo é o canal Jo Jo Funland, que publicou mais de 10 mil vídeos de IA desde agosto de 2025.
• Especialistas argumentam que a moderação é dificultada pela quantidade alta de vídeos, dependendo do monitoramento de pais e responsáveis.

O “AI slop” pode ter chegado ao conteúdo infantil. Vários vídeos produzidos por inteligência artificial, voltados para crianças pequenas, têm transmitido informações erradas e incentivado comportamentos arriscados no YouTube.

É o que revela a revista Undark, publicação de ciência financiada pelo Massachusetts Institute of Technology (MIT). O veículo fez uma apuração e constatou que o conteúdo de baixa qualidade, produzido em massa, pode afetar o desenvolvimento infantil devido à escala das publicações.

Um exemplo é o canal Jo Jo Funland. Desde agosto de 2025, quando foi criado, o canal publicou mais de 10 mil vídeos feitos por IA — cerca de 50 vídeos novos por dia. Para se ter uma ideia, o canal da Vila Sésamo publicou aproximadamente 3.900 vídeos no YouTube em seus 20 anos de plataforma.

“AI slop” para crianças

Especialistas têm usado o termo “AI slop” para descrever esse tipo de conteúdo gerado em grande escala por inteligência artificial, geralmente sem revisão ou controle de qualidade. Muitos desses vídeos são publicados em plataformas como YouTube e conseguem milhares de visualizações.

Em alguns casos, os vídeos se apresentam como materiais educativos. Porém, erros simples aparecem ao longo da produção — como letras incorretas do alfabeto, nomes de estados escritos de forma errada ou imagens que não correspondem ao que está sendo narrado.

À revista, a pesquisadora Kathy Hirsh-Pasek, professora de psicologia e neurociência da Temple University, afirmou que o problema está no início, mas pode crescer rapidamente: “Estamos no início de um problema monstruoso, e precisamos controlá-lo rapidamente”.

Além de informações erradas, alguns vídeos mostram situações potencialmente perigosas, como bebês consumindo alimentos inadequados ou personagens infantis realizando ações arriscadas. Para especialistas em mídia infantil, esse tipo de representação pode ser imitado por crianças.

Outro fator que preocupa é a escala de produção. No final do ano passado, um relatório da empresa de edição de vídeo Kapwing indicou que cerca de 21% do conteúdo exibido no feed do YouTube já seria composto por vídeos gerados por IA de baixa qualidade.

Apesar das políticas de segurança para conteúdo infantil, a grande quantidade de vídeos publicados diariamente dificulta a moderação total pelas plataformas. Enquanto soluções mais robustas não são adotadas, pesquisadores apontam que o monitoramento ainda depende, em grande parte, de pais e responsáveis.

Vídeos infantis feitos por IA espalham desinformação no YouTube

Resumo

• YouTube tem questionado usuários sobre vídeos de baixa qualidade gerados por IA, conhecidos como “AI slop”;
• mais de 20% dos vídeos recomendados para novos usuários são considerados “AI slop” atualmente;
• YouTube até já removeu canais por conteúdo de baixa qualidade gerado por IA, mas aparenta ainda ter dificuldades para mitigar problema.

Conteúdos de qualidade duvidosa gerados por inteligência artificial se tornaram tão frequentes que receberam até nome: “AI slop”. No YouTube, esse problema é recorrente, mas a plataforma aparenta ter dificuldades para mitigá-lo. É o que podemos deduzir dos pedidos de ajuda que o serviço vem fazendo a usuários.

Conforme apuração do Digital Trends, há cada vez mais relatos de pessoas, nas redes sociais, que se deparam com janelas no YouTube que trazem perguntas como “Isso [o vídeo] parece ser AI slop?” e “O quanto este vídeo parece ser de baixa qualidade gerado por IA?”. As opções de resposta vão de “Nada” até “Extremamente”.

Que fique claro que o YouTube não proíbe conteúdo gerado por IA, muito menos exige que os canais identifiquem vídeos do tipo como tal. Contudo, se o vídeo for considerado de baixa qualidade, pode haver consequências sérias, como baixo nível de recomendação, desmonetização do conteúdo ou até banimento do canal.

A razão disso é que vídeos ruins gerados por IA podem ser produzidos rapidamente e, com isso, dominar a plataforma se não houver nenhum tipo de controle.

BREAKING

YouTube is now surveying users on whether videos feel like "AI Slop" and "low-quality AI" pic.twitter.com/qTDu8Cxjld

— vidIQ (@vidIQ) March 17, 2026

O problema é que, embora o YouTube já conte com mecanismos que detectam conteúdo gerado por IA com um nível aceitável de eficiência, aparentemente, ainda não é possível identificar vídeos de baixa qualidade com precisão, até porque os critérios para isso tendem a ser subjetivos.

Até o momento, o YouTube não explicou a finalidade das perguntas, mas é possível que elas sirvam para verificar se as respostas dos usuários condizem com os resultados dos mecanismos de detecção.

Mais de 20% dos vídeos recomendados do YouTube são AI slop

O YouTube precisa mesmo tomar cuidado com vídeos ruins gerados por IA. Um levantamento da plataforma de edição de vídeo Kapwing apontou que mais de 20% do conteúdo recomendado pela plataforma para novos usuários (e que não consideram o histórico de navegação, portanto) são AI slop.

Não por acaso, o YouTube derrubou dois canais com vídeos de baixa qualidade gerados por IA no começo do ano. Apesar disso, o problema parece estar longe de uma solução.

YouTube questiona usuários para identificar vídeos ruins gerados por IA

Resumo

• YouTube recomenda mais de 20% de vídeos de baixa qualidade gerados por IA para novos usuários.
• Segundo o levantamento da Kapwing, canais automatizados geram US$ 117 milhões anuais, com 63 bilhões de visualizações.
• O YouTube afirma que a IA é uma ferramenta neutra e que conteúdos devem seguir diretrizes da comunidade.

Uma pesquisa da Kapwing, empresa especializada em edição de vídeo, revelou que o algoritmo do YouTube está inundando o feed de novos usuários com o chamado “lixo de IA” (AI Slop). Segundo o levantamento, mais de 20% dos vídeos recomendados para contas sem histórico de navegação são conteúdos de baixa qualidade gerados por inteligência artificial.

O fenômeno não afeta só a experiência do usuário: estima-se que essa indústria crie receitas publicitárias de US$ 117 milhões por ano (cerca de R$ 652 milhões). Vale lembrar que, em julho, o YouTube mudou a política de monetização para tentar diminuir esse tipo de conteúdo.

Para mapear a escala do problema, a Kapwing monitorou os 15 mil canais mais populares da plataforma, filtrando os 100 principais de cada país. A análise identificou 278 perfis que operam exclusivamente com conteúdo automatizado de baixo custo e alto volume.

Somados, esses canais acumulam 63 bilhões de visualizações e uma base de 221 milhões de inscritos, bem mais que a distribuição em massa da curadoria de conteúdo original.

Como o “lixo de IA” gera milhões de dólares?

A metodologia simulou a jornada de um usuário novato na plataforma. Dos primeiros 500 vídeos sugeridos no feed inicial de uma conta nova, 104 foram identificados como produções de IA de baixo valor.

O sucesso financeiro dessas operações reside na estrutura de produção. Conforme detalhado pelo The Guardian, existe um ecossistema aquecido em fóruns e aplicativos como Telegram e Discord, em que grupos trocam dicas de nichos lucrativos. As estratégias variam de simulações de desastres naturais a vídeos absurdos de objetos domésticos, como panelas de pressão explodindo.

Os produtores usam ferramentas de IA para gerar dezenas de variações sobre o mesmo tema e as lançam simultaneamente. O algoritmo do YouTube, treinado para identificar padrões de retenção, acaba impulsionando as versões que geram mais cliques, permitindo que os criadores repliquem o modelo “vencedor” exaustivamente.

Essa saturação é global. Na Espanha, cerca de 20 milhões de pessoas — quase metade da população — seguem canais de IA em alta. No Brasil, o impacto também é significativo, com 13,5 milhões de inscritos consumindo esses materiais.

A barreira linguística é quase inexistente, já que a maioria desses vídeos utiliza elementos visuais exagerados e narrações sintéticas que podem ser facilmente traduzidas ou nem sequer exigem compreensão verbal.

O estudo usa como exemplo o canal indiano Bandar Apna Dost. Com 2,4 bilhões de visualizações, o perfil foca em animações surreais e fatura cerca de US$ 4,25 milhões anuais (R$ 23,7 milhões). Já o canal Pouty Frenchie, de Singapura, foca no público infantil com histórias de animais em cenários psicodélicos, gerando receitas milionárias.

Um outro canal, o The AI World, utiliza imagens geradas por IA para retratar inundações e desastres reais, acumulando 1,3 bilhão de visualizações.

O que diz o YouTube?

Em resposta aos dados levantados, um porta-voz do YouTube afirmou que a IA generativa é uma ferramenta neutra, que pode ser usada tanto para criatividade legítima quanto para produções de baixa qualidade.

A empresa reforçou que o foco permanece em conectar usuários a conteúdos “de alta qualidade” e que todo material enviado deve seguir as diretrizes da comunidade. “Se constatarmos que algum conteúdo viola uma política, nós o removemos”, reiterou a plataforma.

YouTube empurra vídeos de IA para novos usuários, diz estudo