Análise aponta lacunas na proteção de jovens em plataformas de IA

O que saiu

A Nature Mental Health publicou em 19 de outubro uma análise de políticas, no formato Perspective, assinada por pesquisadores do SAFELab, da Universidade da Pensilvânia. O texto examina como cinco plataformas de inteligência artificial generativa (ChatGPT, da OpenAI; Google Gemini; Microsoft Copilot; Meta AI; e Character.AI) traduzem suas políticas de bem-estar juvenil em prática, ou seja, no que o sistema responde quando um adolescente escreve.

O que a análise diz

Os autores partem de um dado de contexto: essas plataformas já fazem parte da rotina escolar e social de crianças e adolescentes, e isso toca o bem-estar social, emocional e mental de quem as usa. Cada empresa publica princípios éticos que prometem segurança ao usuário. A pergunta da análise é se esses princípios chegam a práticas centradas no jovem, que considerem suas necessidades de desenvolvimento, sociais e culturais.

A comparação foi organizada em cinco áreas: resposta aos comandos do usuário, apoio educacional, contexto social, desenho culturalmente responsivo e interação adequada à idade. A conclusão é que existe uma lacuna entre o que as políticas prometem e o que acontece na conversa. Segundo o resumo do artigo, as políticas atuais têm regras para prevenir dano, mas há espaço considerável de melhoria na aplicação real.

A recomendação central é dupla: criar padrões que obriguem as plataformas a responder às necessidades de desenvolvimento, sociais e culturais dos jovens, e cobrar adesão estrita a esses padrões. Como caminho de desenho, os autores defendem recomendações culturalmente responsivas e informadas pelo trauma, que, na avaliação deles, poderiam reduzir o potencial de dano a usuários jovens.

A lista de referências do artigo dá a medida do que motivou a análise. Ela inclui o aviso de saúde da American Psychological Association sobre inteligência artificial e bem-estar de adolescentes, de junho de 2025; a ação judicial movida em 2025 contra a OpenAI pela família de um adolescente nos Estados Unidos; e uma nota do BMJ, também de 2025, sobre dados internos da OpenAI indicando que mais de um milhão de usuários por semana apresentavam sinais de sofrimento mental e mania nas conversas.