Famílias podem processar desenvolvedor de aplicativo por quebrar compromisso antibullying #ÚltimasNotícias #tecnologia

Um tribunal de apelações reabriu um processo contra o serviço de mensagens anônimas Yolo, que supostamente quebrou uma promessa de desmascarar valentões no aplicativo. Em uma decisão emitida na quinta-feira, o Tribunal de Apelações do Nono Circuito disse que a Seção 230 do Communications Decency Act não deveria bloquear uma alegação de que o Yolo deturpou seus termos de serviço, anulando uma decisão de um tribunal inferior. Mas determinou que o aplicativo não pode ser responsabilizado por supostos defeitos de design que permitiram assédio, permitindo que uma parte diferente daquela decisão anterior permanecesse.

Yolo era um aplicativo integrado ao Snapchat que permitia que os usuários enviassem mensagens anônimas, mas em 2021, foi atingido por um processo judicial após um usuário adolescente ter cometido suicídio. O garoto, Carson Bride, havia recebido mensagens de assédio e sexualmente explícitas de usuários anônimos que — ele acreditava — provavelmente conheciam. Bride e sua família tentaram entrar em contato com Yolo para obter ajuda, mas Yolo supostamente nunca respondeu e, em alguns casos, os e-mails para a empresa simplesmente voltaram. O Snap baniu Yolo e outro aplicativo alvo do processo judicial e, um ano depois, baniu toda a integração de mensagens anônimas.

A família da noiva e um grupo de outros pais ofendidos argumentaram que a Yolo quebrou uma promessa legalmente vinculativa aos seus usuários. Eles apontaram para uma notificação onde a Yolo alegou que as pessoas seriam banidas por uso inapropriado e desanonimizadas se enviassem “mensagens de assédio” a outras pessoas. Mas, como a decisão resume, os demandantes argumentaram que “com uma equipe de no máximo dez pessoas, não havia como a Yolo monitorar o tráfego de dez milhões de usuários ativos diários para cumprir sua promessa, e de fato nunca o fez”. Além disso, eles alegaram que a Yolo deveria saber que seu design anônimo facilitava o assédio, tornando-o defeituoso e perigoso.

Um tribunal inferior rejeitou ambas as alegações, dizendo que, de acordo com a Seção 230, a Yolo não poderia ser responsabilizada pelas postagens de seus usuários. O tribunal de apelações foi mais simpático. Ele aceitou o argumento de que as famílias estavam responsabilizando a Yolo por prometer aos usuários algo que ela não poderia entregar. “A Yolo informou repetidamente aos usuários que desmascararia e baniria usuários que violassem os termos de serviço. No entanto, nunca o fez e pode nunca ter pretendido”, escreve o juiz Eugene Siler Jr. “Embora sim, o conteúdo online esteja envolvido nesses fatos, e a moderação de conteúdo seja uma solução possível para a Yolo cumprir sua promessa, o dever subjacente… é a promessa em si.”

O processo Yolo foi construído sobre uma decisão anterior do Nono Circuito que permitiu que outro processo relacionado ao Snap contornasse o escudo da Seção 230. Em 2021, ele descobriu que o Snap poderia ser processado por um “filtro de velocidade” que poderia implicitamente encorajar os usuários a dirigir de forma imprudente, mesmo que os usuários fossem responsáveis ​​por fazer postagens com esse filtro. (O caso geral ainda está em andamento.) Além de sua alegação de deturpação, os demandantes argumentaram que a capacidade de mensagens anônimas do Yolo era similarmente arriscada, um argumento que o Nono Circuito não comprou — “nós nos recusamos a endossar uma teoria que classificaria o anonimato como um risco inerentemente irracional por si só”, escreveu Siler.

Esta decisão recente é parte de um empurra-empurra estendido sobre o escopo da Seção 230. Vários casos buscaram alegar que os aplicativos são ilegalmente defeituosos se eles levarem a assédio ou outros danos, mesmo que esses danos tenham sido cometidos pelos usuários. Apesar das vitórias periódicas, ainda está longe de ser uma doutrina estabelecida, e a Suprema Corte se recusou a considerá-la para o Herrick contra Grindr caso em 2019. A Suprema Corte também se recusou a reduzir a Seção 230 em um caso sobre se o YouTube e o Twitter apoiaram o terrorismo ilegal. Após essa decisão do Nono Circuito, a Yolo ainda pode montar uma defesa de que tentou razoavelmente fazer cumprir seu acordo de usuário, e o caso não acabou.

Mesmo assim, deixar que os usuários processem uma empresa por não manter sua política de conteúdo poderia teoricamente permitir ações judiciais contra quase qualquer serviço que não pratique (frequentemente impossivelmente) moderação perfeita. O Nono Circuito insiste que não é isso que está fazendo. “A decisão de hoje não expande a responsabilidade das empresas de internet nem transforma todas as violações de seus próprios termos de serviço em reivindicações acionáveis”, escreve Siler. “Em nossa cautela para garantir [Section] 230 tiver seu efeito máximo, devemos resistir ao impulso corolário de estender a imunidade além dos parâmetros estabelecidos pelo Congresso e, assim, criar uma imunidade de livre circulação para empresas de tecnologia.”