O sistema de IA OpenAI GPT-3 já foi considerado muito perigoso para ser lançado ao público por seus criadores. No entanto, agora, a Microsoft está fazendo uma versão atualizada do programa, o software de preenchimento automático GPT-3 da OpenAI, para as empresas. O software estará disponível para clientes empresariais da Microsoft como parte de seu pacote de ferramentas de nuvem Azure.
GPT-3 é o exemplo mais conhecido de uma nova geração de modelos de linguagem de IA. Esses sistemas funcionam principalmente como ferramentas de preenchimento automático. Basta você inserir um trecho de texto, seja um e-mail ou um poema, e a IA fará o possível para continuar o que foi escrito.
Além disso, a capacidade de analisar a linguagem, no entanto, também permite que eles realizem outras tarefas, como resumir documentos, analisar o sentimento do texto e gerar ideias para projetos e histórias. A Microsoft afirma que é nesses trabalhos que seu novo serviço Azure OpenAI ajudará os clientes.
A Microsoft já usa GPT-3 da OpenAI em seus produtos
Em 2019, a Microsoft investiu US $ 1 bilhão (mais de R$ 5,6 bi) na OpenAI e se tornou seu único provedor de nuvem (um relacionamento vital no mundo de computação intensiva da pesquisa de IA). Então, em setembro de 2020, a Microsoft comprou uma licença exclusiva para integrar diretamente o GPT-3 em seus próprios produtos. Até agora, esses esforços se concentraram nas capacidades de geração de código do GPT-3, com a Microsoft usando o sistema para construir recursos de preenchimento automático em seu conjunto de aplicativos PowerApps e seu editor de código Visual Studio, aponta o The Verge.
Esses aplicativos limitados fazem sentido, dados os enormes problemas associados a grandes modelos de linguagem de IA, como o GPT-3. A Microsoft sabe muito bem o que pode acontecer quando tais sistemas são divulgados ao público em geral. Portanto, ele está tentando evitar esses problemas com o GPT-3 introduzindo várias proteções. Isso inclui a concessão de acesso para usar a ferramenta apenas por convite; vetar casos de uso de clientes; e fornecer “ferramentas de filtragem e monitoramento para ajudar a evitar saídas inadequadas ou usos não intencionais do serviço.”
No entanto, não está claro se essas restrições serão suficientes. Por exemplo, quando questionada pelo The Verge como exatamente as ferramentas de filtragem da empresa funcionam, ou se havia alguma prova de que elas poderiam reduzir saídas inadequadas do GPT-3, a empresa se esquivou da questão.
Emily Bender, professora de linguística computacional da Universidade de Washington que escreveu extensivamente sobre grandes modelos de linguagem, diz que as garantias da Microsoft carecem de substância. Ela observa que a introdução da GPT-3 pela Microsoft falha em atender às próprias diretrizes de ética de IA da empresa, que incluem um princípio de transparência.
Via: TheVerge