Cientistas da Microsoft descobrem falha que permitia à IA criar proteínas tóxicas sem detecção
Vulnerabilidade expôs brecha em sistemas de biossegurança usados por empresas de DNA
Em outubro de 2023, dois cientistas da Microsoft identificaram uma falha crítica em sistemas de biossegurança projetados para impedir que inteligências artificiais fossem usadas na criação de proteínas perigosas. O caso, mantido em sigilo por meses, foi revelado nesta quinta-feira em um artigo publicado na revista Science.
Governo deve elevar a até R$ 2,25 milhões limite para imóvel com FGTS. Veja o que dá para comprar
Ferrari revela Elettrica, seu primeiro carro elétrico, mas aposta em motores a combustão até 2030
O estudo mostra que os pesquisadores conseguiram gerar, com auxílio de IA, milhares de versões artificiais de 72 toxinas, incluindo variantes da ricina, sem que fossem detectadas pelos sistemas de triagem de segurança usados por empresas de síntese de DNA. As plataformas falharam porque as proteínas, embora tóxicas, não se pareciam mais com os modelos originais, escapando dos filtros automatizados.
A equipe, formada por especialistas em biotecnologia e biossegurança, criou um patch para corrigir o problema em quatro métodos de detecção diferentes.
Leia também
• Uninassau: ensino inovador em Inteligência Artificial
• Nova ferramenta de Inteligência Artificial ajuda a detectar lesões em crianças com epilepsia
• OpenAI e SAP lançam plataforma de inteligência artificial para setor público da Alemanha
— É como um modelo de atualização do Windows para o planeta. Continuaremos enviando patches conforme necessário, explicou Eric Horvitz, diretor científico da Microsoft e um dos líderes do estudo.
O episódio foi classificado como o primeiro “dia zero” da IA e da biossegurança, em referência a falhas desconhecidas que deixam sistemas vulneráveis. Embora os cientistas não tenham produzido as proteínas reais, o estudo revelou o potencial duplo dessas tecnologias: o mesmo poder usado para criar proteínas terapêuticas e ambientais também pode gerar toxinas letais.
De acordo com o artigo, o experimento começou como um teste adversário, realizado antes de uma conferência sobre segurança em engenharia de proteínas. Ao “parafrasear” partes do código genético de toxinas, a IA produziu dezenas de milhares de proteínas potencialmente nocivas, sem ativar os mecanismos de alerta.
Após a descoberta, a equipe trabalhou com especialistas externos e empresas de DNA para corrigir as brechas. No entanto, especialistas alertam que novas vulnerabilidades podem surgir.
— A vanguarda da tecnologia está se movendo mais rápido do que a retaguarda da segurança. Cada minuto que discutimos o que fazer, estamos ficando mais para trás — disse David Relman, microbiologista da Universidade de Stanford.
O estudo reacendeu o debate sobre regulação e responsabilidade no uso de IA em pesquisas biológicas. Atualmente, a triagem de biossegurança depende, em grande parte, da adesão voluntária das empresas. Algumas já testam mecanismos que integram verificações de segurança diretamente nos softwares de IA, evitando que sequências de risco sejam sequer geradas.