Chatbot de IA para crianças? Veja planos do Google com o Gemini

O Google anunciou que começará a disponibilizar seu chatbot de IA para crianças menores de 13 anos na próxima semana, como parte de um movimento para expandir a presença de seus produtos de inteligência artificial entre o público jovem. 

O chatbot, denominado Gemini, estará acessível para crianças cujos pais utilizam a ferramenta de controle familiar do Google, o Family Link, permitindo que os menores se beneficiem de funcionalidades como ajuda com tarefas escolares, interações criativas e até mesmo na criação de histórias. 

Contudo, a iniciativa do gigante da tecnologia gerou preocupações em relação à segurança das crianças online e à exposição precoce a tecnologias de IA, um tema cada vez mais debatido no campo da educação e da privacidade digital.

Gemini: o chatbot de IA para crianças e suas implicações

O lançamento do Gemini, uma ferramenta do Google de chatbot de IA, marca um novo capítulo na interação entre crianças e inteligência artificial. Disponível para crianças sob a gestão de contas do Family Link, o Gemini será oferecido como uma ferramenta educativa, permitindo que os jovens usuários façam perguntas, recebam ajuda com dever de casa e criem histórias de forma interativa.

Segundo Karl Ryan, porta-voz do Google, o chatbot vem com guardrails para proteger os menores, prevenindo que conteúdos inadequados ou inseguros sejam gerados pela IA. Além disso, o Google garantiu que os dados das crianças não serão utilizados para treinar a inteligência artificial, o que é um passo relevante em termos de privacidade e segurança.

Contudo, isso não diminui as preocupações de especialistas em privacidade infantil, que alertam para os potenciais riscos dessa exposição precoce à tecnologia. Além disso, a possibilidade de chatbots fabricarem informações imprecisas ou até falsas aumenta a complexidade do debate sobre a segurança de usar essas tecnologias sem supervisão adequada.

Unicef expressa preocupação com a utilização de IA para crianças

O Unicef, agência das Nações Unidas para a infância, juntamente com outros grupos que defendem os direitos das crianças, alertou que sistemas de IA podem confundir, desinformar e manipular crianças, que podem ter dificuldade em perceber que os chatbots não são humanos.

“O uso de IA generativa gerou conteúdos perigosos”, declarou o escritório de pesquisa global do Unicef em uma publicação sobre os riscos e oportunidades da IA para crianças.

Recomendações para os pais ao usarem o Gemini, chatbot de IA para crianças

O Google, ciente dos potenciais riscos envolvidos no uso de seu chatbot Gemini por crianças, fez algumas recomendações para os pais: em um e-mail enviado às famílias, a empresa alertou que, embora o sistema tenha medidas de proteção, o chatbot ainda pode cometer erros. Por isso, o Google sugeriu que os pais ajudem seus filhos a desenvolver uma abordagem crítica ao interagir com o Gemini.

Entre as orientações fornecidas, os pais devem ensinar seus filhos a verificar as respostas fornecidas pelo chatbot e a esclarecer que “o Gemini não é humano”. Além disso, o Google sugeriu que as crianças não inserissem informações pessoais ou sensíveis durante as interações com a IA.

Apesar de esforços da empresa para filtrar conteúdos inadequados, a companhia alertou que as crianças poderiam ainda encontrar material indesejado, o que reforça a necessidade de os pais acompanharem o uso da ferramenta. 

Dessa forma, a plataforma se comprometeu a permitir que os pais gerenciem as configurações do chatbot, inclusive desativando o acesso quando necessário. Isso significa que os pais terão controle sobre o uso do Gemini, podendo monitorar ou interromper o acesso conforme acharem adequado. O Google também alertou os pais de que será notificado quando seu filho acessar o Gemini pela primeira vez.

Ficou interessado nesse tema e não quer perder mais atualizações? Então, siga a Remessa Online no Instagram, LinkedIn, Facebook e YouTube.

Resumindo

Crédito de imagem: Envato Elements