A ferramenta de AI de recall da Microsoft está fazendo um retorno indesejável

Os defensores da segurança e da privacidade estão se tornando outra batalha difícil contra o recall, a ferramenta de IA lançada no Windows 11 que será exibida na captura de tela, indexado e armazenará tudo o que um usuário faz a cada três segundos.

Quando o recall foi introduzido em maio de 2024, os profissionais de segurança o castigaram por criar uma mina de ouro para insiders maliciosos, criminosos ou espiões do Estado-nação, se eles conseguissem obter um breve acesso administrativo a um dispositivo Windows. Os defensores da privacidade alertaram que o recall estava pronto para abuso em ambientes de violência por parceiro íntimo. Eles também observaram que não havia nada impedindo o recall de preservar o conteúdo sensível que desapareceu através de mensageiros de proteção à privacidade, como o sinal.

Recall total

Após meses de reação, a Microsoft suspendeu mais tarde o recall. Na quinta -feira, a empresa disse Foi reintroduzir o recall. Atualmente, ele está disponível apenas para insiders com acesso à versão de visualização do Windows 11 Build 26100.3902. Com o tempo, o recurso será lançado de maneira mais ampla. Os funcionários da Microsoft escreveram:

Lembre -se (pré -visualização)* Economiza o tempo, oferecendo uma maneira totalmente nova de procurar coisas que você viu ou fez no seu PC com segurança. Com os recursos de IA do Copilot+ PCs, agora é possível encontrar rapidamente e voltar a qualquer aplicativo, site, imagem ou documento apenas descrevendo seu conteúdo. Para usar o recall, você precisará optar por salvar instantâneos, que são imagens da sua atividade e se inscrevem no Windows Hello para confirmar sua presença para que você possa acessar seus instantâneos. Você está sempre no controle do que os instantâneos são salvos e podem pausar instantâneos de economia a qualquer momento. Ao usar o seu copilot+ PC ao longo do dia, trabalhando em documentos ou apresentações, recebendo chamadas de vídeo e alternando o contexto, o recall de recall tirará instantâneos regulares e o ajudará a encontrar coisas mais rápidas e fáceis. Quando você precisar encontrar ou voltar a algo que você fez anteriormente, abre e autentique com o Windows Hello. Quando você encontrou o que estava procurando, pode reabrir o aplicativo, o site ou o documento ou usar clique para fazer para agir em qualquer imagem ou texto no instantâneo que você encontrou.

A Microsoft espera que as concessões que exigem opção e a capacidade de pausar o recall ajudem a reprimir a revolta coletiva que estourou no ano passado. Provavelmente não será por vários motivos.

Primeiro, mesmo que o usuário A nunca opte para recordar, eles não têm controle sobre a configuração nas máquinas dos usuários B a Z. Isso significa que qualquer coisa que o usuário a envia será exibido na captura de tela, processado com reconhecimento óptico de caracteres e copiloto ai e depois armazenado em um banco de dados indexado nos dispositivos de outros usuários. Isso iria indiscriminadamente lançar todos os tipos de material sensível do usuário A, incluindo fotos, senhas, condições médicas e vídeos e mensagens criptografadas. Como Guias de privacidade escritor em escreveu no Mastodon:

Infelizmente, esse recurso extrairá suas informações de qualquer software seguro que você possa ter usado e o armazenará no computador dessa pessoa de uma maneira possivelmente menos segura.

É claro que essa pessoa pode tirar uma captura de tela manualmente de tudo isso de qualquer maneira, mas esse recurso faz com que mesmo uma pessoa bem-intencionada possa não estar ciente de que está, ou pode assumir erroneamente que é seguro o suficiente.

Esse recurso ainda não está totalmente lançado, mas pode ser em breve.

A presença de um banco de dados facilmente pesquisável que captura todos os momentos de vigília de uma máquina também seria uma peniana para outras pessoas que não têm os melhores interesses dos usuários no coração. Esse nível de material detalhado de arquivo estará sem dúvida sujeito a intimação por advogados e governos. Os atores de ameaças que conseguem instalar o spyware em um dispositivo não precisarão mais vasculhá -lo para os dados mais sensíveis armazenados lá. Em vez disso, eles vão me lembrar exatamente como fazem bancos de dados do navegador que armazenam senhas agora.

A Microsoft não respondeu imediatamente a uma mensagem perguntando por que está reintroduzindo o recall menos de um ano após o recurso ter uma recepção tão fria. Para os críticos, é provável que o recall seja um dos exemplos mais perniciosos de ENSHITTIFICATIFICAÇÃOo termo recentemente cunhado para o shoehorning de IA indesejada e outros recursos em produtos existentes quando há benefício insignificante para os usuários.

Esta história apareceu originalmente em ARS Technica.