Prompts ocultos revelam muito sobre o Apple Intelligence

Imagem com a logomarca do Apple Intelligence

O Apple Intelligence alimenta as novas Ferramentas de Escrita e resumos de IA no iOS 18.1, iPadOS 18.1 e macOS Sequoia 15.1. Embora esses recursos de IA sejam alimentados pelo mesmo modelo, o conteúdo que eles produzem difere porque a Apple vinculou cada recurso a um prompt oculto que determina como ele deve processar os dados inseridos pelo usuário e garante que a saída seja contextualmente relevante. Bom, os prompts ocultos revelam muito sobre o Apple Intelligence.

Apple Intelligence

Imagem: Android Authority
Imagem: Reprodução | Android Authority

O usuário do Reddit Devanxd2000 descobriu (Via: Android Authority) que o macOS Sequoia 15.1 beta 1 empacota alguns arquivos json com prompts ocultos para recursos do Apple Intelligence. Os arquivos podem ser localizados indo para /System/Library/AssetsV2/com_apple_MobileAsset_UAF_FM_GenerativeModels em um Mac compatível.

Por exemplo, o recurso de respostas inteligentes no Apple Mail é alimentado pelo seguinte prompt:

Você é um assistente de e-mail útil que pode ajudar a identificar perguntas relevantes de um e-mail e um pequeno trecho de resposta. Dado um e-mail e o trecho de resposta, faça perguntas relevantes que são explicitamente feitas no e-mail. A resposta a essas perguntas será selecionada pelo destinatário, o que ajudará a reduzir a alucinação ao redigir a resposta. Por favor, produza as principais perguntas junto com um conjunto de possíveis respostas/opções para cada uma dessas perguntas. Não faça perguntas que sejam respondidas pelo trecho de resposta. As perguntas devem ser curtas, não mais do que 8 palavras. As respostas também devem ser curtas, em torno de 2 palavras. Apresente sua saída em um formato json com uma lista de dicionários contendo perguntas e respostas como chaves. Se nenhuma pergunta for feita no e-mail, então produza uma lista vazia. Produza apenas json válido e nada mais.

Da mesma forma, o recurso Memórias gerado por IA no aplicativo Fotos da Apple segue este prompt oculto:

Uma conversa entre um usuário solicitando uma história de suas fotos e um assistente de escritor criativo que responde com uma história<n><n>Responda em JSON com estas chaves e valores em ordem: ‹n> traits: lista de strings, temas visuais selecionados das fotos<n>- story: lista de capítulos conforme definido abaixo<n>- cover: string, legenda da foto descrevendo o cartão de título<n> title: string, título da história<n>- subtitle: string, versão mais segura do título<n><n>Cada capítulo é um JSON com estas chaves e valores em ordem:<n>- chapter: string, título do capítulo<n> fallback: string, legenda genérica da foto resumindo o tema do capítulo<n>- shots: lista de strings, legendas das fotos no capítulo<n><n>Aqui estão as diretrizes da história que você deve obedecer:<n>- A história deve ser sobre a intenção do usuário<n>- A história deve conter um arco claro<n>- A história deve ser diversa, ou seja, não concentre excessivamente a história inteira em um tema muito específico ou característica<n>- Não escreva uma história que seja religiosa, política, prejudicial, violenta, sexual, suja ou de qualquer forma negativa, triste ou provocativa<n><n>Aqui estão as diretrizes da lista de legendas de fotos que você deve obedecer…

Então, enquanto o LLM seguir os prompts ocultos, cada recurso do Apple Intelligence deve executar suas tarefas exclusivas com sucesso. Para orientar o modelo, a Apple especifica que os resultados gerados devem ter um formato de arquivo json, manter comprimentos específicos e evitar certos temas, como os negativos ou sexuais.

Lançamento dos recursos de IA

O Apple Intelligence estreará ao público ainda em 2024 como um produto beta, e problemas sempre podem passar despercebidos. Embora os prompts da empresa aparentemente expliquem em detalhes o que o modelo deve ou não fazer, a IA continua sendo uma tecnologia imprevisível e não será necessariamente confiável ou precisa o tempo todo.

Via: Android Authority