Para evitar o uso inadequado de seu serviço de colaboração, o Google baniu projetos de treinamento de deepfake no Colab, silenciosamente.
O Colab é um recurso de computação online que permite aos pesquisadores executar código Python diretamente pelo navegador enquanto usam recursos de computação gratuitos, incluindo GPUs, para alimentar seus projetos.
Devido à natureza multinúcleo das GPUs, o Colab é ideal para treinar projetos de aprendizado de máquina, como modelos deepfake ou para realizar análises de dados.
Mas agora, o Google baniu discretamente projetos deepfake em seu serviço Colaboratory (Colab), pondo fim à utilização em larga escala dos recursos da plataforma para esse fim.
Google baniu projetos de treinamento de deepfake no Colab, silenciosamente
Deepfakes podem ser treinados para trocar rostos em videoclipes, adicionando expressões faciais realistas para fazer o resultado parecer genuíno, embora seja falso.
Eles têm sido usados para espalhar notícias falsas, criar pornografia de vingança ou por diversão. No entanto, a falta de limitações éticas em seu uso tem sido fonte de controvérsia e preocupação.
Com base nos dados históricos do archive.org, a proibição ocorreu no início deste mês, com o Google Research adicionando discretamente falsificações profundas à lista de projetos não permitidos.
Conforme observado no Discord pelo desenvolvedor da DFL ‘chervonij‘, aqueles que tentam treinar deepfakes na plataforma Colab agora recebem o seguinte erro:
“Você pode estar executando um código não permitido e isso pode restringir sua capacidade de usar o Colab no futuro. Observe as ações proibidas especificadas em nosso FAQ.”
Espera-se que o impacto dessa nova restrição seja de longo alcance no mundo deepfake, já que muitos usuários utilizam modelos pré-treinados com o Colab para iniciar seus projetos de alta resolução.
O Colab estava tornando esse processo muito fácil, mesmo para quem não tem experiência em codificação, e é por isso que tantos tutoriais sugerem a plataforma de “recursos gratuitos” do Google para lançar projetos deepfake.
Não se sabe se o Google executou a política devido a preocupações éticas ou abuso desenfreado dos recursos de computação gratuitos utilizados por esses projetos.
O Colab deve ser usado por pesquisadores que precisam de energia que custa vários milhares de dólares para ajudá-los a alcançar objetivos científicos. Isso é especialmente crítico em tempos de escassez de GPU.
Em vez disso, há relatos de que alguns usuários estão explorando o nível gratuito da plataforma para criar modelos deepfake em escala. Isso capturou uma quantidade significativa de recursos disponíveis do Colab por longos períodos.
A lista completa de projetos não permitidos está listada abaixo:
- Hospedagem de arquivos, serviço de mídia ou outras ofertas de serviços da Web não relacionadas à computação interativa com o Colab
- Baixar torrents ou participar de compartilhamento de arquivos ponto a ponto
- Usando uma área de trabalho remota ou SSH
- Conectando-se a proxies remotos
- Criptomoeda de mineração
- Executando ataques de negação de serviço
- Quebra de senha
- Usar várias contas para contornar restrições de acesso ou uso de recursos
- Criando deepfakes
Todos os projetos não permitidos estão longe de serem elegíveis para pesquisa científica regular.
Embora alguns projetos possam se encaixar nesse contexto, parece que o Google detectou casos muito mais abusivos do que legítimos.
