O Google baniu discretamente projetos deepfake em seu serviço Colaboratory (Colab). Sendo assim, pôs fim à utilização em larga escala dos recursos da plataforma para esse fim. Portanto, o Google acaba com projetos de treinamento de deepfake no Colab.
O Colab é um recurso de computação online que permite aos pesquisadores executar código Python diretamente pelo navegador enquanto usam recursos de computação gratuitos, incluindo GPUs, para alimentar seus projetos.
Devido à natureza multinúcleo das GPUs, o Colab é ideal para treinar projetos de aprendizado de máquina, como modelos deepfake ou para realizar análises de dados.
Deepfakes podem ser treinados para trocar rostos em videoclipes, adicionando expressões faciais realistas para fazer o resultado parecer genuíno, embora seja falso.
Eles têm sido usados para espalhar notícias falsas, criar pornografia de vingança ou por diversão. No entanto, a falta de limitações éticas em seu uso tem sido fonte de controvérsia e preocupação.
Colocando uma proibição em deepfakes
Com base nos dados históricos do archive.org, a proibição ocorreu no início deste mês, com o Google Research adicionando discretamente falsificações profundas à lista de projetos não permitidos.
Conforme observado no Discord pelo desenvolvedor do DFL ‘ chervonij ‘, aqueles que tentam treinar deepfakes na plataforma Colab agora recebem o seguinte erro:
Você pode estar executando um código não permitido e isso pode restringir sua capacidade de usar o Colab no futuro. Observe as ações proibidas especificadas em nosso FAQ.
Espera-se que o impacto dessa nova restrição seja de longo alcance no mundo deepfake, já que muitos usuários utilizam modelos pré-treinados com o Colab para iniciar seus projetos de alta resolução.
Notícias Relacionadas
Tecnologia móvel
Samsung destaca avanço nas mensagens RCS com suporte no iOS
O suporte a RCS chega ao iOS com o iOS 18.1, permitindo que usuários de Android e iPhone aproveitem uma experiência de mensagens aprimorada e sem necessidade de redes sociais.
Mercado elétrico
Xiaomi atinge R$ 7,14 bilhões em receita com veículos elétricos no 3º trimestre de 2024
Xiaomi fecha o 3º trimestre de 2024 com R$ 7,14 bilhões em receita com veículos elétricos, impulsionado pelo sucesso da série SU7, apesar do prejuízo operacional.
O Colab estava tornando esse processo muito fácil, mesmo para aqueles sem experiência em codificação, e é por isso que tantos tutoriais sugerem a plataforma de “recursos gratuitos” do Google para lançar projetos deepfake.
Google acaba com projetos de treinamento de deepfake no Colab
Não se sabe se o Google executou a política devido a preocupações éticas ou abuso desenfreado dos recursos de computação gratuitos utilizados por esses projetos.
O Colab deve ser usado por pesquisadores que precisam de energia que custa vários milhares de dólares para ajudá-los a alcançar objetivos científicos. Isso é especialmente crítico em tempos de escassez de GPU.
Em vez disso, há relatos de que alguns usuários estão explorando o nível gratuito da plataforma para criar modelos deepfake em escala. Isso capturou uma quantidade significativa de recursos disponíveis do Colab por longos períodos.
A lista completa de projetos não permitidos está listada abaixo:
- hospedagem de arquivos, serviço de mídia ou outras ofertas de serviços da Web não relacionadas à computação interativa com o Colab
- baixar torrents ou participar de compartilhamento de arquivos ponto a ponto
- usando uma área de trabalho remota ou SSH
- conectando-se a proxies remotos
- criptomoeda de mineração
- executando ataques de negação de serviço
- quebra de senha
- usar várias contas para contornar restrições de acesso ou uso de recursos
- criando deepfakes
Todos os projetos não permitidos estão longe de serem elegíveis para pesquisa científica regular.
Embora alguns projetos possam se encaixar nesse contexto, parece que o Google detectou casos muito mais abusivos do que legítimos.
Via BleepingComputer
