“É impossível para a IA aceder a um laboratório totalmente autónomo e construir autonomamente um vírus hoje em dia porque ainda não existem laboratórios totalmente autónomos”, afirma Olivia Scharfman, bolsista de biotecnologia do think tank tecnológico Institute for Progress. “Mas acho que uma IA poderia pagar alguém para fazer isso por ela.”
Ela acha que o bioterrorismo assistido pela IA é uma ameaça imediata e que existem alguns grupos que podem ser niilistas o suficiente para fazê-lo, incluindo “sucessionistas transumanistas da IA”, pessoas que compram uma ideologia marginal que esperam suplantar os humanos com bots.
Outros especialistas não estão tão preocupados com uma arma biológica de IA porque não acham que a guerra biológica faça muito sentido metodologicamente. “Os riscos tendem a ser um tanto mal compreendidos”, disse o biólogo genético e professor de biologia computacional François Belloux à WIRED, observando que as pessoas tendem a “superestimar o valor dos patógenos como armas”.
Deixando de lado a AGI de tudo isto, Belloux diz que as armas biológicas simplesmente não são uma escolha especialmente atractiva para aspirantes a genocidas, especialmente porque é difícil atingir certos grupos e poupar outros, e a produção e distribuição em massa de agentes patogénicos é logisticamente complicada em comparação com, digamos, o lançamento de uma bomba. “Se você quiser matar pessoas, há maneiras muito, muito melhores de matá-las do que tentar criar algum vírus ou bactéria e depois liberá-lo”, diz ele – seja você a mente artificial mais sofisticada já criada ou apenas um ser humano normal.
Com a IA a colocar em foco a ameaça das armas biológicas, Scharfman diz que este é o momento certo para pressionar por melhores proteções contra todas as ameaças biológicas, incluindo agentes patogénicos existentes como o H1N1. Isso poderia incluir ações de alto nível, como a aprovação de legislação para melhorar os protocolos de segurança em torno da tecnologia de síntese de ADN, mas ela também defende mudanças para mitigar o risco de todos os vírus, como a atualização dos sistemas de purificação do ar nos edifícios.
Se a IA aumenta comprovadamente o risco de desenvolvimento de armas biológicas é uma questão difícil de responder, diz Steph Guerra, chefe de IA e biologia da Rand Corporation, um think tank político. “A IA demonstrou ser muito boa em integrar informações e motivar as pessoas a fazerem coisas boas e ruins”, diz ela.
Mesmo que o risco seja baixo, diz Guerra, ainda existem formas de a sociedade se proteger contra uma potencial utilização indevida. Uma delas é que os governos podem adoptar leis que exijam que as empresas que vendem ADN e ARN sintéticos examinem os clientes e as encomendas para evitar a utilização indevida de material genético. Muitas empresas já utilizam software para selecionar pedidos para as chamadas “sequências preocupantes”, mas a prática não é universal ou obrigatória.
Antes que um mau ator chegue a esse ponto, porém, quase todo mundo concorda que os modelos devem ter salvaguardas apropriadas para que não forneçam informações perigosas e acionáveis às pessoas.
Guerra diz que o risco de uma bioameaça desenvolvida pela IA também pode ser mitigado através do fortalecimento dos sistemas de vigilância globais para detectar surtos de novas doenças e circulação de agentes patogénicos para os investigadores o mais cedo possível. Ela diz que os protocolos de compartilhamento de dados entre empresas de IA, fornecedores de síntese genética e o governo também poderiam ajudar a prevenir o uso indevido.
“Com praticamente qualquer controle de biossegurança, haverá maneiras de contorná-los”, diz ela. “É por isso que precisamos de abordagens em camadas que proporcionem atrito ao longo de todo o caminho, desde a concepção até a intenção de um mau ator, até o lançamento de uma arma biológica.”
Unutmaz diz que há uma preocupação ainda mais premente: que todas as conversas sobre a desgraça da IA estejam desviando a atenção de como os sistemas de ponta podem ajudar os humanos no desenvolvimento de vacinas e outras descobertas médicas.
“Precisamos realmente nos concentrar no aspecto positivo disso”, diz ele.