A ideia de que a inteligência artificial (IA) pode ser utilizada para controlar sua casa e sua vida de forma mal-intencionada é um dos principais motivos pelos quais muitas pessoas hesitam em adotar essa nova tecnologia — é realmente assustador. Quase tão assustador quanto ter seus dispositivos inteligentes invadidos. E se eu dissesse que alguns pesquisadores conseguiram realizar isso?
Pesquisadores de diversas instituições de cibersegurança revelaram uma grande vulnerabilidade no popular modelo de IA do Google, o Gemini. Eles conduziram um ataque de injeção de prompt controlado, conhecido como promptware, que enganou o Gemini para assumir o controle de dispositivos domésticos inteligentes, como ligar um aquecedor e abrir persianas. Esta simulação mostra um sistema de IA provocando ações físicas no mundo real por meio de uma invasão digital.
Um grupo de pesquisadores da Universidade de Tel Aviv, do Technion e da SafeBreach criou um projeto intitulado "Apenas o convite é tudo o que você precisa." Eles incorporaram instruções maliciosas em convites do Google Calendar e, quando usuários pediam ao Gemini para "resumir meu calendário", o assistente de IA acionava ações pré-programadas, como controlar dispositivos domésticos inteligentes sem que os usuários solicitassem. O nome do projeto é uma alusão ao famoso artigo de IA, "Attention is all you need", e provocou ações como abrir persianas inteligentes, ligar um aquecedor, enviar mensagens de spam e ofensivas, vazar e-mails, iniciar chamadas no Zoom e baixar arquivos. Essas ações foram programadas utilizando a técnica de injeção de prompt indireta, onde instruções maliciosas são escondidas em um aviso aparentemente inocente — neste caso, os convites do Google Calendar.
Vale ressaltar que, mesmo que o impacto tenha sido real, essa ação foi realizada como um experimento controlado para demonstrar uma vulnerabilidade no Gemini; não se tratou de um ataque ao vivo. O objetivo era mostrar ao Google que isso poderia ocorrer se agentes mal-intencionados decidissem lançar um ataque.
Em resposta, o Google aprimorou suas defesas e implementou medidas de segurança mais rigorosas para o Gemini. Essas melhorias incluem o filtro de saídas, exigindo a confirmação explícita do usuário para ações sensíveis e a detecção de prompts suspeitos com IA. Esta última pode ser problemático, já que a IA é consideravelmente imperfeita, mas existem algumas medidas que você pode tomar para proteger ainda mais seus dispositivos de ciberataques.
Embora esse ataque tenha sido realizado com o Gemini e o Google Home, as seguintes recomendações são boas maneiras de se proteger contra agentes maliciosos. Limite suas permissões dentro do seu aplicativo de casa inteligente. Evite conceder controle de dispositivos sensíveis ao Gemini, Siri ou outros assistentes de casa inteligente, a menos que realmente necessite. Por exemplo, eu permito que a Alexa acesse minhas câmeras, mas não autorizo o assistente de voz a controlar minhas fechaduras inteligentes.
Esteja atento aos serviços que você conecta com o Gemini e outros assistentes de voz. Quanto mais dispositivos e aplicativos você vincular ao seu assistente de IA (como Gmail, seu calendário, etc.), mais pontos de entrada potenciais os atacantes terão. Fique atento a comportamentos inesperados de seus dispositivos e assistentes de IA e, se algo parecer fora do comum, revogue permissões e relate o incidente.
Como regra geral, você deve manter seus dispositivos e aplicativos sempre atualizados com as últimas versões de firmware. Isso garante que você receba os patchs de segurança mais recentes para se proteger contra ataques.
Para mais histórias sobre IA, inscreva-se em nossa newsletter semanal de Inovação.
Referência: ZDNET
Posts relacionados:
Cuidado: Uso de aplicativos de IA por crianças e adolescentes é desaconselhado, alerta entidade.
Pesquisadores alertam: Como algumas empresas de IA secretas podem ameaçar a sociedade livre
Pesquisadores em IA recebem prêmio Turing por técnica que possibilitou o triunfo do AlphaGo no xadrez
Empresas de IA pouco conhecidas podem ameaçar a liberdade da sociedade, alertam pesquisadores.
