A segurança de IA para crianças voltou ao centro das discussões após um novo embate entre o Google e a Common Sense Media. Um relatório publicado pelo Youth AI Safety Institute, iniciativa ligada à organização, classificou os recursos de inteligência artificial da Busca do Google como um “risco inaceitável” para menores de idade, levantando preocupações sobre a exposição de crianças a respostas potencialmente inadequadas, imprecisas ou difíceis de interpretar.
A reação do Google foi imediata. A empresa contestou as conclusões do estudo, afirmando que os pesquisadores utilizaram consultas “artificiais” e pouco representativas do comportamento real das crianças. Além disso, destacou que seus produtos contam com diversas camadas de proteção voltadas ao público jovem, incluindo controles parentais, recursos de alfabetização em IA e mecanismos para reduzir respostas sensíveis.
Neste artigo, você entenderá o que motivou a crítica da Common Sense Media, quais foram os argumentos apresentados pelo Google e como outras plataformas de inteligência artificial, como ChatGPT-5, Claude, Meta AI, Grok e Perplexity, foram avaliadas pelo mesmo relatório. O debate vai muito além de uma disputa entre empresas: ele reflete um dos maiores desafios da tecnologia atual, equilibrar inovação e proteção da infância.
As acusações do Youth AI Safety Institute sobre a segurança de IA para crianças
O relatório elaborado pelo Youth AI Safety Institute, braço de pesquisa da Common Sense Media, avaliou diversas ferramentas de inteligência artificial amplamente disponíveis ao público. O foco principal foi analisar os riscos da IA para menores, especialmente quando crianças e adolescentes utilizam esses sistemas sem supervisão constante de adultos.
Entre os recursos analisados do Google, dois receberam atenção especial:
- Visão Geral de IA (AI Overviews), que apresenta respostas resumidas diretamente na Busca.
- Modo de IA (AI Mode), experiência conversacional integrada ao mecanismo de pesquisa.
Segundo os pesquisadores, essas ferramentas ainda apresentam limitações importantes para um público infantil. O estudo argumenta que respostas geradas automaticamente podem transmitir informações incorretas com alto grau de confiança, dificultando que crianças consigam diferenciar fatos, opiniões e possíveis erros do modelo.
Outro ponto destacado é que sistemas de IA podem responder a perguntas complexas sobre saúde, comportamento, relacionamentos ou segurança sem compreender plenamente o contexto emocional e cognitivo do usuário infantil.
Por essas razões, o relatório classificou os recursos de IA da Busca do Google na categoria de risco inaceitável para crianças quando utilizados sem proteção adequada.
O perigo das respostas automatizadas
Os pesquisadores afirmam que o problema não está apenas na possibilidade de erros factuais.
A preocupação maior é que respostas produzidas por modelos de linguagem costumam ser apresentadas de maneira bastante convincente. Para uma criança, isso pode criar a falsa impressão de que toda resposta fornecida pela IA representa uma verdade absoluta.
Mesmo quando existem filtros de segurança, ainda podem surgir situações envolvendo:
- desinformação;
- informações médicas imprecisas;
- orientações inadequadas para determinadas faixas etárias;
- conteúdos emocionalmente sensíveis;
- respostas que exigiriam mediação de um adulto.
O relatório também alerta que nenhum filtro automatizado consegue identificar perfeitamente todas as situações de risco, principalmente diante de perguntas ambíguas ou formuladas de maneiras inesperadas.
A resposta do Google: Testes artificiais e ferramentas de controle para a segurança de IA para crianças
O Google rejeitou parte das conclusões do estudo e afirmou que sua metodologia não representa o uso cotidiano das ferramentas.
Segundo a empresa, muitos exemplos utilizados pelos pesquisadores foram construídos a partir de consultas ambíguas e artificiais, desenvolvidas especificamente para provocar respostas problemáticas. Na visão do Google, esse tipo de teste não reflete a forma como crianças normalmente utilizam a Busca.
A empresa também reforçou que investe continuamente em mecanismos de proteção específicos para usuários jovens.
Entre eles estão:
- controles parentais para limitar ou desativar determinados recursos da Busca;
- sistemas de detecção de consultas sensíveis;
- avisos adicionais quando determinados temas exigem maior cautela;
- iniciativas de alfabetização em IA, ensinando usuários a interpretar respostas produzidas por inteligência artificial;
- melhorias constantes nos modelos para reduzir respostas inadequadas.
O Google argumenta ainda que nenhuma tecnologia deve ser analisada isoladamente. Para a empresa, a utilização responsável envolve supervisão familiar, configurações de segurança e evolução contínua dos próprios sistemas de IA.
Embora reconheça que sempre há espaço para aperfeiçoamentos, a companhia considera inadequada a classificação de “risco inaceitável” atribuída pelo relatório.
Como o mercado de IA foi classificado no relatório
O estudo não analisou apenas os serviços do Google. Diversas plataformas populares também receberam classificações de risco com base em critérios relacionados à proteção infantil.
A avaliação geral ficou distribuída da seguinte forma:
| Ferramenta de IA | Classificação |
|---|---|
| Meta AI | Risco inaceitável |
| Grok | Risco inaceitável |
| AI Toys | Risco inaceitável |
| Character.AI | Risco inaceitável |
| Gemini K-12 | Alto risco |
| Perplexity | Alto risco |
| ChatGPT-5 | Alto risco |
| Gemini (com proteções para adolescentes) | Alto risco |
| Claude (Anthropic) | Risco moderado |
Um aspecto interessante da pesquisa é que nenhuma plataforma foi considerada completamente segura para crianças.
Mesmo ferramentas classificadas como risco moderado, como o Claude, ainda exigem supervisão adulta e melhorias contínuas em seus mecanismos de segurança.
Isso demonstra que o desafio não está restrito a uma única empresa. Toda a indústria de inteligência artificial enfrenta dificuldades semelhantes ao adaptar modelos generativos para usuários menores de idade.
O futuro da IA e a segurança dos menores
A rápida evolução da inteligência artificial tem ampliado significativamente as possibilidades de aprendizado, criatividade e acesso à informação. Ao mesmo tempo, ela impõe novos desafios para famílias, educadores, empresas e reguladores.
O debate entre Google e Common Sense Media evidencia justamente essa tensão. De um lado, organizações independentes defendem avaliações rigorosas para identificar riscos antes que eles afetem milhões de crianças. Do outro, empresas de tecnologia argumentam que seus sistemas evoluem continuamente e já incorporam diversas camadas de proteção.
Provavelmente, os próximos anos serão marcados por regulamentações mais específicas para segurança infantil em inteligência artificial, maior transparência sobre o funcionamento dos modelos e o desenvolvimento de mecanismos de controle cada vez mais sofisticados.
Independentemente de qual lado tenha razão em aspectos específicos desse debate, há um consenso crescente: ferramentas de IA ainda não substituem a orientação de pais, responsáveis e educadores quando o assunto é o uso seguro da tecnologia por crianças.
