De acordo com um estudo realizado por pesquisadores da Ludwig-Maximilians-Universität Munich (LMU), a expectativa de ser apoiado por uma IA aumenta a disposição de correr riscos das cobaias.
Os pesquisadores do LMU lidam com “Tecnologias de Aumento Humano”, ou seja, tecnologias que melhoram as habilidades humanas. Isso inclui os especialistas, como exoesqueletos e óculos de realidade aumentada.
Estudo com IA
Um estudo da cadeira de mídia ubíqua centrada no ser humano da LMU mostrou que os usuários têm grandes expectativas sobre o efeito dessas tecnologias, relata a universidade. Assim que eles acreditam que uma IA melhoraria suas habilidades cognitivas, sua disposição para correr riscos aumenta. E isso independentemente de a IA realmente apoiá-los.
“O hype em torno dos aplicativos de IA está tendo um impacto nas expectativas do usuário. Isso pode levar a comportamentos mais arriscados”, diz Steeven Villa, aluno de pós-graduação do grupo Human Centered Ubiquitous Media e primeiro autor do estudo.
No estudo, os sujeitos foram informados de que seriam apoiados por um aplicativo de IA em um jogo de cartas virtual, o que aumentaria suas habilidades cognitivas. Na verdade, esse apoio não existia. No entanto, os participantes mostraram maior disposição para assumir riscos assim que pensaram que se beneficiariam da IA. Isso parece ilógico, mas é o que pode acontecer, caso as pessoas pensem que podem ser “salvos” por um sistema de IA.
Disposição a correr riscos facilitada pela IA
O estudo também confirma o possível efeito placebo em aplicações tecnológicas de forma semelhante à encontrada em medicamentos. “Quando as pessoas trabalham cada vez mais em conjunto com sistemas inteligentes, é importante entender um possível efeito placebo para realmente poder construir sistemas que ofereçam suporte real”, diz Albrecht Schmidt, professor de ciência da computação na LMU.
Os pesquisadores recomendam revisar os benefícios reais de novos aplicativos de IA antes de divulgá-los e, em seguida, considerar possíveis efeitos placebo. Eles também aconselham envolver os usuários e suas expectativas mais de perto no processo de desenvolvimento.
Novos estudos devem surgir em breve. No entanto, esse já nos deixa bastantes preocupados, uma vez que as pessoas parecem confiar tanto na IA, que podem ser levadas a correrem riscos. Nesse caso, as pessoas enquanto cobaias, parecem assumir mais riscos quando acreditam que teriam um mecanismo que as ajudaria em caso extremo. O teste é bem preocupante, vendo por esta ótica. Esperamos que as pessoas não confiem tanto assim nas tecnologias, a ponto de assumirem riscos.