Cidadania

Brasileiros ensinam “app robô” a dizer palavrões e fazer ameaças

Brasileiros ensinam "app robô" a dizer palavrões e fazer ameaças

Brasileiros ensinam “app robô” a dizer palavrões e fazer ameaças

O SimSimi, aplicativo sul-coreano de inteligência artificial, foi removido das lojas de apps brasileiras do Android e iOS porque os brasileiros ensinaram ao robô ameaças de crimes, como assassinato e sequestro, de crianças e de suas famílias.

Da Gazeta do Povo:


O aplicativo sul-coreano SimSimi foi removido das lojas de apps brasileiras do Android e do iOS na última sexta-feira (20), segundo o blog oficial do app. De acordo com a publicação, brasileiros estariam vandalizando a inteligência artificial e causando um “impacto social negativo” no país.

O SimSimi é um app de bate-papo baseado em inteligência artificial. Ele é, nas palavras da equipe responsável, um “robô de conversa colaborativo”, o que significa que os usuários ajudam a alimentar as frases e reações do robô, que depois aparecem nos diálogos com outros usuários.

Foi essa liberdade que permitiu a alguns brasileiros vandalizarem a inteligência artificial do SimSimi. Segundo a postagem do blog, intitulada “A equipe do SimSimi pede ajuda aos usuários brasileiros”, usuários do app no Brasil estariam ensinado respostas maliciosas ao SimSimi. “O principal tipo dessas respostas é o de ameaças de crimes, como assassinato e sequestro, de crianças e de suas famílias”, diz o texto.

Por esse motivo, o app foi indisponibilizado para o Brasil nas lojas de apps do Google/Android e da Apple/iPhone. “Isso [a retirada] é inevitável porque o app do SimSimi, pelo menos nos últimos dias, tem tido um significativo impacto social negativo no Brasil”, justificam-se os desenvolvedores.

(…)

No caso do abuso brasileiro, os responsáveis pelo app disseram que “esse tipo de abuso não tem precedente e o Brasil será excluído de baixar o SimSimi até que tenhamos certeza de que tenhamos um mínimo controle sobre esse novo tipo de abuso”.

A postagem da equipe diz, ainda, que a equipe do SimSimi não tem informações suficientes para dar uma resposta apropriada, “principalmente por barreiras linguísticas” — eles se comunicam em coreano e inglês.

Um formulário, para que brasileiros indiquem respostas abusivas que encontrem no app, foi disponibilizado.

Nas páginas do SimSimi nas lojas de apps, alguns comentários de usuários brasileiros citam os abusos que levaram à suspensão da oferta do app no país, como referências a assassinatos e pactos diabólicos. “Baixei por curiosidade. Fala de estupro, coisas do mal… Ridículo isso existir como app. Deveriam tirar da Play Store!”, escreveu uma usuária. Outra, disse que “ele falou que era um demônio”.

O SimSimi foi removido do Brasil na última sexta (20). Na manhã desta terça (24), o SimSimi continuava indisponível no país. Quem já havia baixado ele antes da suspensão poderá continuar usando o SimSimi sem qualquer problema.

(…)


Deixe um Comentário!