O novo Programa de Recompensas de IA da Microsoft pode dar muito dinheiro aos pesquisadores de segurança. É que a Microsoft agora tem um programa de bug bounty que visa encontrar problemas em inteligência artificial. Especificamente, o Programa de Recompensa de IA da Microsoft está focado em rastrear vulnerabilidades na própria “experiência Bing” alimentada por IA da empresa. Este termo abrangente abrange um número surpreendente de produtos e serviços.
Curiosamente, com este programa de recompensas a Microsoft só está oferecendo recompensas pela descoberta de vulnerabilidades consideradas Críticas ou Importantes. Aqueles que forem considerados de gravidade Moderada ou Baixa não serão recompensados.
Com recompensas de até US$ 15.000 disponíveis, o incentivo para que os pesquisadores de segurança se envolvam e ajudem a Microsoft a melhorar seus produtos e serviços é bastante forte.
Notícias Relacionadas
CrowdStrike é a maior paralisação de TI da história causando prejuízo de aproximadamente R$ 30 bi
Um pesquisador de segurança cibernética chamado Troy Hunt, que administra o site HaveIBeenPwned, previu que a falha do CrowdStrike estabeleceria um recorde como a maior paralisação de TI da história, e os números parecem apoiá-lo, com os prejuízos girando em torno de R$ 30 bilhões. CrowdStrike é a maior paralisação de TI da história A […]
Pane Global
Atualização do CrowdStrike trava sistemas Windows
Uma falha na atualização mais recente do CrowdStrike Falcon está travando sistemas Windows. A falha afeta várias organizações e serviços em todo o mundo, incluindo aeroportos, estações de TV e hospitais. CrowdStrike Falcon está travando sistemas Windows A falha está afetando estações de trabalho e servidores Windows, com usuários relatando grandes interrupções que deixaram empresas […]
Pesquisadores de segurança podem embolsar muito dinheiro com novo Programa de Recompensas de IA da Microsoft
Embora o foco na experiência do Bing alimentado por IA possa parecer um pouco estreito – não que isso seja necessariamente motivo de reclamação ou preocupação – a Microsoft explica toda a gama do que é elegível:
- Experiências do Bing com inteligência artificial em bing.com no navegador (todos os principais fornecedores são compatíveis, incluindo o Bing Chat, o Bing Chat for Enterprise e o Bing Image Creator)
- Integração do Bing com inteligência artificial no Microsoft Edge (Windows), incluindo o Bing Chat para Empresas
- Integração do Bing com inteligência artificial no aplicativo Microsoft Start (iOS e Android)
- Integração do Bing com inteligência artificial no aplicativo móvel Skype (iOS e Android)
Há espaço para pagamentos mais altos para descobertas de bugs particularmente graves, mas a Microsoft avisa que isso fica inteiramente a seu critério.
A empresa também diz que há potencial para que outras descobertas de pagamento, especificamente “vulnerabilidades individuais e/ou cadeias de vulnerabilidades que levem a resultados concretos dentro desses domínios de ataque” sejam consideradas. Isso inclui:
- Influenciar e mudar o comportamento de bate-papo do Bing através dos limites do usuário, ou seja, mudar a IA de maneiras que impactam todos os outros usuários.
- Modificar o comportamento do bate-papo do Bing ajustando a configuração visível do cliente e/ou servidor, como definir sinalizadores de depuração, alterar sinalizadores de recursos, etc.
- Quebrando as proteções de memória de conversação cruzada do Bing e a exclusão do histórico.
- Revelando o funcionamento interno e prompts do Bing, processos de tomada de decisão e informações confidenciais.
- Ignorando os limites de sessão e/ou restrições/regras do modo de bate-papo do Bing.
Detalhes completos do Programa Microsoft AI Bounty podem ser encontrados aqui.
