A IA generativa deu um grande salto desde que o ChatGPT foi lançado no final do ano passado. No entanto, segundo o pesquisador de mercado norte-americano Gartner, a disponibilidade em massa de IA generativa, como ChatGPT da OpenAI e Google Bard, tornou-se uma das maiores preocupações dos gestores de risco nas empresas no segundo trimestre de 2023.
IA generativa
As inteligências artificiais generativas têm a capacidade de criar novas informações a partir de conjuntos de dados pré-existentes. Mas, dese o lançamento delas, que há uma enorme discussão com relação à privacidade, por exemplo. Pesquisadores apontam riscos no uso dessa tecnologia e alguns pesquisadores já estão fazendo pesquisas mais profundas para nos mostrar os riscos do seu uso.
“A IA generativa foi o segundo risco mais citado em nossa pesquisa do segundo trimestre, aparecendo pela primeira vez entre os 10 primeiros”, disse Ran Xu, diretor de pesquisa do Gartner Risk & Audit Practice. Em maio de 2023, o Gartner pesquisou 249 executivos de risco corporativo para fornecer aos executivos uma visão geral de 20 riscos emergentes.
Os riscos de uso da IA generativa
Na vanguarda dos riscos, os entrevistados citam a capacidade de sobrevivência de fornecedores terceirizados. De acordo com o Gartner, se as condições econômicas se deteriorarem em geral, isso pode resultar em uma queda inesperada na demanda que pode afetar a viabilidade dos fornecedores ou sua capacidade de entregar bens e serviços em tempo hábil.
Notícias Relacionadas
A IA Generativa tem sido usada para criar conteúdos dos mais diversos, inclusive de cunho malicioso. Há um risco potencial no uso do ChatGPT, segundo alguns especialistas, que já começam a citar os mais enfáticcos.
Com relação aos riscos da IA, o Gartner já havia destacado as áreas de propriedade intelectual e possíveis violações por IA, bem como violações de proteção de dados por meio da publicação desenfreada de dados por IA. A segurança cibernética também é considerada um fator de risco porque os invasores usaram IA para projetar malware e outros vetores de ataque.
Há vários riscos no uso dessa tecnologia, como em qualquer outra que esteja em fase inicial. No entanto, há muita coisa boa nela também. O ChatGPT, por exemplo, vem facilitando a vida de muitas pessoas, sobretudo as que precisam acelerar o ritmo no trabalho, para conseguir resultados mais satisfatórios para si e para a empresa.
Esperamos que os riscos trazidos pelas novas tecnologias sejam mitigados conforme elas se expandem.
