Reddit anunciou que está apresentando Novas medidas para combater o uso indevido de inteligência artificial (AI) Em seguida um incidente enganoso de IA que causou rebate. Enquanto buscam uma plataforma mais segura para suas diversas comunidades, essas mudanças estão provocando preocupações consideráveis sobre a privacidade do usuário e a tradição de anonimato do site, uma particularidade médio para muitas comunidades. Esse movimento foi motivado por um experimento preocupante em que os pesquisadores da Universidade de Zurich usavam Bots de IA no Reddit “Change My View My View” Subreddit, um forum para um debate. Esses bots postaram mais de 1.700 comentários representando usuários humanos, alguns em funções sensíveis, sem nenhum consentimento, violando as regras do Reddit e os padrões de pesquisa moral, levando ao clamor do usuário. O uso da IA para imitar a interação humana genuína de tal maneira mina a crédito necessário para discussões on-line produtivas. Em resposta, o CEO Steve Huffman anunciou medidas para “manter o Reddit Human”, envolvendo serviços de terceiros para verificar os usuários porquê humanos e, em algumas regiões, confirmar sua idade. Huffman afirmou que, apesar dessas verificações, o Reddit pretende preservar o anonimato e não deseja que os nomes reais dos usuários, uma meta complexa quando os parceiros externos estiverem envolvidos no processo de verificação. O repto está na implementação de verificações robustas sem coletar inadvertidamente mais dados do usuário do que o necessário.
A IA indesejada nas comunidades é uma preocupação séria. É a preocupação que ouço com mais frequência hoje em dia de usuários e mods. O Reddit funciona porque é humano. É um dos poucos lugares on -line onde pessoas reais compartilham opiniões reais. Essa autenticidade é o que dá ao Reddit seu valor. Se perdermos a crédito nisso, perdemos o que faz do Reddit … Reddit. Nosso foco é, e sempre será, em manter o Reddit um lugar confiável para a conversa humana.
Steve Huffman, CEO do Reddit
Apesar dessas garantias, muitos usuários estão preocupados porque o anonimato do Reddit tem sido crucial para discussões abertas sobre questões sensíveis ou controversas, permitindo que os indivíduos busquem conselhos ou compartilhem opiniões sem pânico da represália do mundo real. Detalhes sobre o novo sistema de verificação permanecem escassos; O TechCrunch destacou que o Reddit não esclareceu quem exigirá verificação, quais terceiros estão envolvidos ou quais dados específicos podem ser necessários. Essa opacidade é preocupante, mormente recordando incidentes porquê meta compartilhando dados de usuários privados com a emprego da lei, que tinham sérias repercussões para os indivíduos envolvidos. A situação do Reddit reflete um repto mais extenso, pois muitas plataformas on -line lutam com o uso indevido de IA sofisticados e mantendo a integridade da plataforma. Os métodos de verificação destinados a prometer a autenticidade geralmente se chocam com as expectativas de privacidade do usuário, tornando o estabilidade entre segurança e anonimato uma dificuldade em todo o setor que requer navegação cuidadosa e diálogo contínuo com as bases de usuários.
Parar a AI Fakes é importante para o Reddit proteger sua comunidade. Mas, à medida que trazem essas novas maneiras de verificar os usuários, eles realmente precisam ser abertos e claros com todos sobre porquê tudo funciona. Se as pessoas ficam confusas sobre o que está acontecendo com suas informações, essa crédito pode quebrar facilmente. Portanto, o Reddit precisa encontrar uma maneira inteligente de combater as coisas falsas, enquanto ainda garante que os usuários mantenham a privacidade e a liberdade de falar de que sempre valorizavam no site.
