FSF define critérios para garantir liberdade em aplicativos de Machine Learning

A Free Software Foundation (FSF) anunciou seu novo projeto para definir os critérios que tornarão os aplicativos de machine learning (ML) verdadeiramente livres. Esse esforço vai além do software, abrangendo também os dados de treinamento e scripts associados, garantindo que respeitem as quatro liberdades fundamentais do software livre: executar, estudar, modificar e compartilhar o software.

O rápido avanço das aplicações de aprendizado de máquina trouxe à tona preocupações sobre a liberdade dos usuários ao utilizarem essas tecnologias. Em resposta, a FSF estabeleceu um grupo de trabalho composto por membros do conselho, funcionários e especialistas externos para criar uma declaração formal sobre o que constitui um aplicativo de machine learning livre. Essa declaração definirá quando um software pode ser considerado livre, considerando não apenas seu código, mas também os dados utilizados para treinar os modelos de IA.

Desafios além do software

Os aplicativos de machine learning são mais complexos que o software tradicional, pois dependem de dados de treinamento que, ao serem processados, geram parâmetros conhecidos como “pesos de modelo”. Esses pesos são fundamentais para controlar as respostas de sistemas baseados em redes neurais, por exemplo. No entanto, esses parâmetros não são compreensíveis diretamente pelos seres humanos, dificultando o estudo ou a modificação dos sistemas de IA apenas pela análise desses dados.

Em muitos casos, o processo de adaptação ou melhoria de um aplicativo de IA envolve a utilização de diferentes conjuntos de dados ou o treinamento incremental do modelo. A FSF acredita que, para que um aplicativo de machine learning seja verdadeiramente livre, seus parâmetros de modelo também devem ser distribuídos de forma que os usuários possam modificar e redistribuir esses dados, permitindo o controle total sobre a ferramenta.

Perto de uma conclusão

O grupo de trabalho da FSF, após meses de discussão, está finalizando os detalhes dessa declaração de critérios. Desde maio deste ano, esforços concentrados foram realizados para chegar a um consenso sobre como os aplicativos de machine learning podem se alinhar com os princípios do software livre. A principal conclusão é que todos os componentes – tanto o software que processa os dados quanto os dados de treinamento e seus scripts – devem conceder aos usuários as quatro liberdades. Além disso, a distribuição dos parâmetros de modelo, fundamentais para o funcionamento da IA, é um ponto essencial para garantir a liberdade total do aplicativo.

Aplicativos de machine learning não livres

A FSF reforça que qualquer aplicação de machine learning que não forneça essas liberdades aos usuários não pode ser considerada livre, mesmo que seus componentes de software sejam abertos. Isso reflete a visão da organização de que o controle sobre o código e os dados é necessário para garantir a soberania dos usuários sobre suas ferramentas de IA.