O uso de inteligência artificial para criar imagens DeepFake sexualizadas de crianças resultará em longas sentenças de prisão e pesadas multas.

Uma nova lei da Louisiana que entrará em vigor em 1º de agosto criminalizará a produção e posse de deepfakes que retratam o abuso sexual de crianças.

da Louisiana O projeto de lei legislativo SB175 , sancionado pelo governador da Louisiana, John Bel Edwards, considera que qualquer pessoa condenada por criar, distribuir ou possuir imagens ilegais de deepfake representando menores de idade pode enfrentar uma pena obrigatória de cinco a 20 anos de prisão, uma multa de até US$ 10.000 ou ambos.

Deepfakes são vídeos gerados por IA que fabricam pessoas, lugares e eventos. Os deepfakes representam um desafio crescente para a segurança cibernética e a aplicação da lei devido aos avanços na IA que tornam os deepfakes cada vez mais difíceis de detectar.

Louisiana – que ocupa o 49º lugar entre 50 estados em bem-estar infantil e o segundo em pobreza – junta-se a vários outros estados dos EUA , incluindo Califórnia, Texas e Virgínia, que regulamentaram ou proibiram deepfakes.

Outra seção do SB175, destinada a plataformas online e sites que hospedam a chamada “pornografia de vingança”, diz que qualquer pessoa que conscientemente anunciar, distribuir ou vender deepfakes sexuais envolvendo uma pessoa sem seu consentimento – ou que apresente um menor – pode enfrentar uma 10 a 30 anos de prisão, multa de até $ 50.000, ou ambos.

Se o tempo atrás das grades e uma multa pesada não fossem suficientes, os legisladores da Louisiana certamente incluíram que qualquer sentença emitida sob a nova lei consistiria em “trabalhos forçados”.

Em maio, deepfakes de crianças vítimas de assassinato se tornaram virais nas redes sociais depois de serem carregados no TikTok. Um dos clipes apresentava uma recriação gerada por IA de Royalty Marie Floyd, cuja avó foi acusada de seu assassinato em 2018.

Em junho, o secretário-geral da ONU, António Guterres, alertou sobre o uso de IA e deepfakes nas redes sociais para alimentar o ódio e a violência em zonas de conflito.

“Estamos entrando em uma era em que não podemos mais acreditar no que vemos”, disse Marko Jak, co-fundador e CEO da Secta Labs, com sede em Austin, ao Decrypt em uma entrevista . “No momento, é mais fácil porque as deep fakes ainda não são tão boas, e às vezes você pode ver que é óbvio.”

As agências de aplicação da lei já soaram o alarme sobre criminosos que usam deepfakes para golpes e extorsão. No mês passado, o Federal Bureau of Investigation dos EUA disse que a agência continua recebendo denúncias de vítimas, incluindo menores, cujas fotos e vídeos foram usados ​​em conteúdo explícito.

Citando o potencial uso indevido de sua mais recente plataforma de voz gerada por IA, Voicebox, a Meta disse que não divulgaria a IA ao público