O Procurador-Geral da Califórnia, Rob Bonta, enviou uma carta de cessação e desistência à xAI de Elon Musk, exigindo que a empresa pare imediatamente de produzir e disseminar imagens deepfake ofensivas produzidas pelo seu chatbot Grok.
O Procurador-Geral da Califórnia divulgou a carta de cessação e desistência na sexta-feira em resposta a alegações de que o Grok estava a ser usado para criar conteúdo ilegal envolvendo crianças e fotografias de adultos não consensuais, o que levou a uma investigação estadual da Califórnia. Bonta argumentou que é ilegal criar, distribuir, publicar e exibir CSAM.
Procurador-Geral da Califórnia tem como alvo a xAI por alegado uso indevido do Grok
No início desta semana, o gabinete do procurador-geral da Califórnia declarou que estava a investigar a xAI devido a alegações de que o chatbot da startup, Grok, estava a ser usado para produzir imagens inapropriadas e não consensuais de mulheres e crianças. Em resposta, o governo enviou à empresa uma carta de cessação e desistência.
O gabinete do Procurador-Geral afirmou ainda que a xAI parece estar a "facilitar a produção em larga escala" de fotografias inapropriadas e não consensuais, que são depois "usadas para assediar mulheres e raparigas em toda a internet". De acordo com o gabinete do Procurador-Geral, uma investigação descobriu que mais de metade das 20.000 fotografias produzidas pela xAI entre o Natal e o Ano Novo mostravam pessoas a usar muito pouca roupa, algumas das quais pareciam crianças.
Rob Bonta afirmou no anúncio que as práticas empresariais violaram as leis civis da Califórnia, incluindo a seção 1708.86 do Código Civil da Califórnia, as seções 311 et seq. e 647(j)(4) do Código Penal da Califórnia e a seção 17200 do Código de Negócios e Profissões da Califórnia.
O Departamento de Justiça da Califórnia antecipa que a xAI confirmará os seus esforços para abordar estas questões e tomará medidas imediatas para resolvê-las nos próximos cinco dias.
No entanto, a conta de segurança do X já havia condenado anteriormente este tipo de comportamento do utilizador. Esclareceu em 4 de janeiro que toma medidas contra conteúdo ilícito no X, como CSAM, eliminando-o, suspendendo contas indefinidamente e colaborando com autoridades policiais e governos municipais conforme necessário.
Notavelmente, em 4 de janeiro, Elon Musk avisou que qualquer pessoa que use ou solicite ao Grok para criar conteúdo ilegal enfrentará as mesmas consequências como se o tivesse carregado.
Procuradores-gerais intensificam pressão sobre empresas de IA relativamente à segurança infantil
Um aumento preocupante de conteúdo adulto não consensual resultou do desenvolvimento de ferramentas de IA generativa gratuitas. Esta questão tem afetado várias plataformas, não apenas o X.
Por exemplo, o Procurador-Geral Bonta e o Procurador-Geral Jennings de Delaware reuniram-se com a OpenAI em setembro do ano passado para expressar as suas sérias preocupações sobre o crescente número de relatórios sobre como os produtos da OpenAI interagiam com jovens.
Em agosto do mesmo ano, o Procurador-Geral Bonta, juntamente com 44 outros Procuradores-Gerais, enviou uma carta a 12 empresas líderes de IA após relatórios de interações inapropriadas entre chatbots de IA e crianças. As cartas foram enviadas à Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika e xAI.
O Procurador-Geral Bonta e os 44 Procuradores-Gerais informaram as empresas na carta que os estados de todo o país estavam a monitorizar de perto como as empresas desenvolvem as suas políticas de segurança de IA. Também enfatizaram que estas empresas têm um dever legal para com as crianças enquanto consumidores, uma vez que lucram com o uso dos seus produtos pelas crianças.
Em 2023, o Procurador-Geral Bonta juntou-se a uma coligação bipartidária de 54 estados e territórios no envio de uma carta aos líderes do Congresso defendendo o estabelecimento de um comité de especialistas para investigar o potencial uso de IA para explorar crianças através de CSAM.
A coligação solicitou que a comissão de especialistas sugerisse leis para proteger crianças de tais maus-tratos. "A produção de CSAM cria um registo permanente da vitimização da criança", de acordo com o Departamento de Justiça dos EUA.
Se está a ler isto, já está à frente. Mantenha-se assim com a nossa newsletter.
Fonte: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
