A recente popularização do aplicativo SimSimi em escolas preocupa pais e professores em Curitiba e diversas outras cidades no mundo. O SimSimi é um chat robô que, por meio de um acervo de frases em constante crescimento, conversa com os visitantes. As frases são construídas dentro do contexto de conversas provocadas pelos usuários. É como se fosse um Whatsapp, mas com um robô como interlocutor, que com o tempo aprende com os visitantes. O problema é que a forma como o robô foi “educado” faz com que as respostas partam para o baixo nível, com piadas de mau gosto e até mesmo assédio de menores. As respostas de cunho sexual, pornográficas e até criminosas chocaram pais que tiveram acesso a aparelhos dos filhos. A direção da Escola Municipal Duílio Calderari, no bairro São Lourenço, em Curitiba, fez uma reunião com pais de alunos nesta semana após ser alertada por uma das famílias. A escola já proíbe o uso de celular dentro da instituição, mas mesmo assim, orientou que os pais vistoriem os aparelhos dos filhos. Espantados com as mensagens, um grupo de pais levou o caso ao Núcleo de Combate aos Cibercrimes da Polícia Civil em Curitiba.

Pai de uma menina de 11 anos de idade, o empresário Alessandro Reginaldo Ferreira viu no celular da filha mensagens com linguajar explícito e inicialmente pensou se tratar de uma pessoa real do outro lado. Ele conta que começou a suspeitar quando via a filha se escondendo para mexer no celular. Ferreira conta que então assumiu a conversa.

Em nota, a Secretaria Municipal da Educação de Curitiba afirma que o uso do aplicativo Simsimi não é prática realizada na Escola Municipal Duílio Calderari. A secretaria confirma que “recentemente, a unidade foi procurada por um pai que questionava a exposição de conteúdos inapropriados em um aplicativo utilizado pela filha e foi orientado a registrar queixa na delegacia de crimes de informática”. Ainda desconfiado, Alessandro Ferreira ficou surpreso com a perspicácia do sistema de inteligência artificial. Mesmo tendo pesquisado a respeito do aplicativo, ele ainda não está convencido de que é apenas um robô.

Veículos de comunicação internacionais, como The Sun, na Inglaterra, Telemar, no México, e Hoy, do Uruguai, já destacaram notícias relacionadas ao uso inadequado e possíveis consequência do SimSimi. Artigos de mídia especializada no Brasil já recomendavam manter as crianças longe do app. O jornalista Elson de Souza, em artigo sobre o SimSimi, avalia que o “simpático monstrinho tem resposta para qualquer tipo de pergunta, desde as mais fofinhas até as mais escrachadas. Sendo assim, não é aconselhável para crianças”, destacou. Em alguns casos, no entanto, as respostas deixaram de ser apenas “escrachadas” e passaram ao abuso e ponografia expostas a crianças.  É possível ensinar o sistema a responder a determinadas perguntas e restringir o uso de palavrões. Mas o próprio desenho do jogo, um bichinho amarelo e risonho, mostra-se atrativo para jovens e crianças, quando na verdade dá a chance de diálogos inadequados em ambiente privado.

O chat, desenvolvido pela empresa coreana SimSimi em 2002 e aprimorado nos últimos anos, utiliza inteligência artificial para aprender com as respostas dos usuários e aumentar a base de dados. Um resultado desse sistema, entretanto, é a grande frequência de palavrões e piadas emitidos pelo robô, que repete o que visitantes ensinam e escrevem. É possível restringir o uso de “palavras ruins” nas configurações do sistema, assim como ensinar novas expressões ao personagem amarelinho. Nos “Termos em Condições”, em inglês, o aplicativo especifica a recomendação de uso para adolescentes entre 16 e 17 anos. A SimSimi ainda oferece a gratuitamente uma plataforma para que desenvolvedores criem os próprios sistemas baseados na tecnologia usada no chat, que conta com apps para iOS e Android.