E se a IA iniciasse a III Guerra Mundial?
E se eu te disser que na semana passada a paz mundial esteve por um fio graças a uma informação errônea produzida pela Inteligência Artificial para o governo dos EUA? Os militares americanos já estavam se preparando para a interceptação e abordagem de um navio chinês, quando os oficiais descobriram que o chatbot utilizado para analisar os dados submetidos pelo Comando de Operações Especiais dos EUA havia se equivocado ao supor que o navio chinês transportava armas nucleares. Esta foi a notícia dada pelo jornalista Kyle Orland, da arstechnica.com, que cobre assuntos relacionados a hardware, realidade virtual e IA generativa.
Gerado por Bing Image Creator
Que a AI não é 100% de confiança, todo mundo já sabe. Já foi até mesmo criado um termo no Dicionário Cambridge para descrever o que a IA faz quando não tem uma resposta adequada para um problema proposto pelo usuário: ela simplesmente inventa uma resposta. Quando isto acontece, diz-se que a IA “alucinou”. Parece gíria de garotada, mas é coisa séria. E todo mundo que usa a IA frequentemente está ciente de que isso acontece.
Apesar do amplo conhecimento sobre o caráter alucinatório da IA, continuam surgindo na mídia casos escandalosos em que profissionais repassam ao cliente textos criados pela IA sem realizar um controle de qualidade, como se a inteligência artificial fosse à prova de erros. No Brasil, os advogados de empresas de telecomunicações enviaram petições geradas pela IA com jurisprudências falsas ao tribunal; no Canada, o chatbot da Air Canada inventou políticas de descontos inexistentes, e a Ernst & Young produziu um relatório de cibersegurança em que mais de 70% das referências eram falsas; no Oriente Médio, a consultoria PricewaterhouseCoopers aconselhou governos e empresas sobre o futuro dos veículos elétricos e a automação baseado em dados falsos. O número de casos como esses é imenso. Contudo lá se vão três anos desde que casos de alucinação da IA ganharam um termo próprio nos dicionários.
Apesar dos riscos envolvidos, a disseminação do uso da IA continua crescendo de vento em popa. O Departamento de Defesa americano divulgou recentemente que utilizara o Gemini, da Google, e o Grok, da SpaceXAI, como base para construir sua plataforma militar de IA generativa, da qual se servem mais de 1,5 milhão de usuários das forças armadas.
Em 2023, o Departamento de Estado já havia alertado que as forças armadas deveriam garantir a presença de um especialista humano para avaliar o material produzido pela IA, de modo a evitar que vieses inadequados na interpretação de dados pudessem resultar em acidentes. A despeito dos alertas emitidos pelo Departamento de Estado americano, há relatos de que no passado recente a OTAN tenha utilizado drones autônomos, dirigidos pela IA, em seus ataques no conflito Rússia-Ucrânia. Casos como este levaram a Anthropic a negar-se a colaborar com a construção de modelos de IA para o controle de armas autônomas do Departamento de Defesa, tendo em vista a possibilidade de que ocorram acidentes letais.
Como se pode ver nestas poucas linhas, o risco no emprego da IA em assuntos de guerra é atualmente imenso, contudo, isto não tem impedido o seu uso. O bom senso diria que ainda há um bom caminho a ser percorrido até que a inteligência artificial seja capaz de realizar adequadamente todas as tarefas para as quais ela tem sido programada. Enquanto isso não acontece, devemos nos questionar até quando continuaremos aceitando que líderes tratem mortes causadas por falhas tecnológicas como simples riscos colaterais. A tecnologia deveria existir para proteger e melhorar as nossas vidas, e não o contrário.
Voltar