O Google costuma ser bem discreto e não faz alarde ou fala sobre suas ações em seus serviços e produtos. Agora, por exemplo, o Google baniu silenciosamente projetos deepfake em seu serviço Colaboratory (Colab). Com isso, a empresa acaba de por fim à utilização em larga escala dos recursos da plataforma para a produção de deepfakes.
Colab e deepfakes
O serviço do Google conhecido como Colab é um recurso de computação online que permite aos pesquisadores executar código Python diretamente pelo navegador enquanto usam recursos de computação gratuitos, incluindo GPUs, para alimentar seus projetos. Devido à natureza multinúcleo das GPUs, o Colab é ideal para treinar projetos de aprendizado de máquina, como modelos deepfake ou para realizar análises de dados.
Utilizando os recursos do Colab, usuários treinavam para fazer com que os deepfakes pudessem ser usados para trocar rostos em videoclipes, adicionando expressões faciais realistas para fazer o resultado parecer genuíno, embora seja falso.
No entanto, deepfakes têm sido usados ??para espalhar notícias falsas, criar pornografia de vingança ou por diversão. Além disso, a falta de limitações éticas em seu uso tem sido fonte de controvérsia e preocupação. Abaixo você pode ver como a imagem produzida pelo deepfake é impressionante.
Colocando uma proibição em deepfakes
Com base nos dados históricos do archive.org, a proibição ocorreu no início deste mês, com o Google Research adicionando discretamente falsificações profundas à lista de projetos não permitidos. Conforme observado no Discord pelo desenvolvedor do DFL ‘chervonij’ (Via: BleepingComputer), aqueles que tentam treinar deepfakes na plataforma Colab agora recebem o seguinte erro: “Você pode estar executando um código não permitido e isso pode restringir sua capacidade de usar o Colab no futuro. Observe as ações proibidas especificadas em nosso FAQ”.
Espera-se que o impacto dessa nova restrição seja de longo alcance no mundo deepfake, já que muitos usuários utilizam modelos pré-treinados com o Colab para iniciar seus projetos de alta resolução. Inclusive, o Colab estava tornando esse processo muito fácil, mesmo para aqueles sem experiência em codificação, e é por isso que tantos tutoriais sugerem a plataforma de “recursos gratuitos” do Google para lançar projetos deepfake.
Não se sabe se o Google executou a política devido a preocupações éticas ou abuso desenfreado dos recursos de computação gratuitos utilizados por esses projetos. Como se sabe, o Colab deve ser usado por pesquisadores que precisam de energia que custa vários milhares de dólares para ajudá-los a alcançar objetivos científicos.
Em vez disso, há relatos de que alguns usuários estão explorando o nível gratuito da plataforma para criar modelos deepfake em escala. Isso capturou uma quantidade significativa de recursos disponíveis do Colab por longos períodos.
Todos os projetos não permitidos estão longe de serem elegíveis para pesquisa científica regular. Embora alguns projetos possam se encaixar nesse contexto, parece que o Google detectou casos muito mais abusivos do que legítimos.
Via: BleepingComputer
