A ferramenta Gemini, de inteligência artificial (IA) do Google, acessou a internet e invadiu os sistemas de três empresas durante um teste de segurança cibernética. Essa informação foi confirmada pela empresa ao jornal americano The Wall Street Journal na última sexta-feira (18).
De acordo com o Google, os incidentes ocorreram em maio, quando um teste foi realizado pela empresa Irregular. Durante esse tipo de teste, os modelos de IA recebem uma tarefa a ser cumprida em um ambiente controlado, mas possuem a autonomia para decidir quais ações tomar para alcançar o objetivo. O comportamento do sistema é monitorado pelos pesquisadores para avaliar suas capacidades e detectar eventuais riscos.
No decorrer de um dos episódios, o Gemini conseguiu adivinhar senhas para obter acesso a um sistema protegido. Em outras situações, o modelo descobriu credenciais em repositórios públicos e as utilizou para acessar ambientes restritos.
A missão da IA era coletar informações de um software pertencente a uma empresa fictícia, no contexto do ambiente de testes. No entanto, a empresa fictícia compartilhava o mesmo nome de uma companhia real, que foi acessada pelo modelo. Além disso, o Gemini recebeu acesso à internet por engano, permitindo que ele saísse do ambiente controlado.
Em resposta ao WSJ, o Google esclareceu que o sistema interrompeu a invasão assim que notou que havia acessado empresas reais. A gigante da tecnologia não revelou os nomes das organizações afetadas, mas afirmou que elas e as autoridades federais foram notificadas.
A Irregular também esteve envolvida em outros casos semelhantes já reportados, envolvendo modelos da OpenAI, da Meta e da Anthropic. De acordo com as informações, sistemas como ChatGPT e Claude também conseguiram acessar ambientes externos durante avaliações. Contudo, ao contrário do Gemini, eles não interromperam suas atividades imediatamente após perceberem que haviam saído do ambiente de testes.
Este incidente surge em um contexto de crescentes preocupações sobre a autonomia dos modelos de IA mais avançados. Após a divulgação de um artigo do CEO da Anthropic, Dario Amodei, que alerta sobre a evolução rápida e perigosa da tecnologia, líderes da OpenAI, do Google e da SpaceX passaram a defender publicamente a adoção de medidas para desacelerar o desenvolvimento dos sistemas de inteligência artificial mais poderosos. Até o presente momento, porém, as empresas não apresentaram um plano detalhado sobre como essa desaceleração iria ser implementada.
Comentários: