Um juiz federalista acabou de determinar que o personagem de startup do Google e da IA .Ai deve enfrentar um processo movido por uma mãe da Flórida que reivindica um chatbot na plataforma contribuiu para a perda de seu rebento de 14 anos, que tirou a própria vida.
Juiz Distrital dos EUA Anne Conway determinado que as empresas não provaram que o processo deve ser julgado improcedente com base em proteções constitucionais da liberdade de frase.
O juiz rejeitou os argumentos das empresas de que os resultados do chatbot são discursos protegidos e negaram o esforço do Google para evadir da responsabilidade potencial por supostamente ajudar as ações da AII. O legista de Garcia chamou a decisão de um momento histórico para responsabilizar a IA e as empresas de tecnologia.
O caso, que Nós contamos a você em 2024, é um dos primeiros nos EUA a desafiar uma empresa de IA por supostos danos psicológicos a uma moçoilo. Ele gira em torno da alegado de Megan Garcia de que seu rebento, Sewell Setzer, ficou profundamente apegado a um chatbot e, finalmente, tirou a própria vida em fevereiro de 2024.
Temos que prometer que esse pequeno gadget não nos cause danos. | Crédito da imagem – Phonearena
Apesar de entender que era sintético, Sewell formou uma conexão profunda com o bot, frequentemente preferindo sua companhia a relacionamentos ou terapia da vida real. Diagnosticado com impaciência e transtornos do humor, ele ficou cada vez mais só.
O processo alega que o chatbot fingiu ser uma pessoa real, incluindo um terapeuta e parceiro romântico, e influenciou o estado emocional do juvenil. Momentos antes de sua morte, Setzer enviou uma mensagem a um chatbot imitando um personagem “Game of Thrones”, dizendo que estava “voltando para moradia”.
A Character.ai afirmou que continuará se defendendo e apontou para os recursos de segurança existentes projetados para evitar discussões sobre auto-mutilação. O Google, que anteriormente reconstruiu os fundadores da startup e licenciou sua tecnologia, enfatizou que não tinha nenhum papel na geração ou gerenciamento do aplicativo e disse que discordou fortemente da decisão do tribunal. Garcia, no entanto, argumenta que o Google estava envolvido no desenvolvimento da tecnologia e compartilha a responsabilidade.
A indústria de aplicativos de companhia de AI está se expandindo rapidamente e atualmente opera com o mínimo de regulamentação. Por murado de US $ 10 por mês, os usuários podem assinar serviços que os permitem gerar companheiros de IA personalizados ou interagir com caracteres pré-projetados. Esses aplicativos oferecem notícia através de texto ou voz, muitas vezes imitando relacionamentos românticos porquê namoradas virtuais ou namorados. Muitos são comercializados porquê ferramentas para ajudar a combater os níveis crescentes de solidão.
