A Anthropic concorria a um projeto de 100 milhões de dólares do Pentágono para enxames de drones, mas não foi selecionada; o grupo SpaceX e OpenAI saiu vencedor
De acordo com a notícia da 1M AI News, a Anthropic submeteu uma proposta no início deste ano para participar de uma competição de 100 milhões de dólares do Pentágono, chamada Orchestrator Prize Challenge, com o objetivo de desenvolver tecnologia de enxame de drones autônomos controlados por voz. A competição, organizada pelo Defense Autonomous Warfare Group e pela Defense Innovation Unit, subordinados ao Comando de Operações Especiais, avança em cinco fases, desde o desenvolvimento de software até testes de campo, incluindo fases posteriores de “percepção e compartilhamento de objetivos” e “do lançamento ao encerramento”. A proposta da Anthropic, centrada na Claude, converte a intenção do comandante em comandos digitais e coordena a formação de drones, sem envolver mira autônoma ou decisões de armas, mantendo o controle humano o tempo todo. A empresa também sugeriu estabelecer um projeto de pesquisa conjunto com o Pentágono para desenvolver e avaliar de forma segura capacidades de armas autônomas.
A Anthropic acredita que sua proposta não viola a linha vermelha de “não participar de armas totalmente autônomas”, pois o sistema ainda pode ser monitorado e interrompido a qualquer momento por humanos. No entanto, a Anthropic não foi selecionada, e a Bloomberg não conseguiu confirmar os motivos. As propostas selecionadas incluem uma colaboração entre SpaceX e xAI, além de duas empresas de tecnologia de defesa que listam a OpenAI como parceira de IA (uma delas é a Applied Intuition, contratada para veículos militares autônomos). A tecnologia da OpenAI será usada na fase de “controle de missão” para ajudar a transformar comandos de voz em comandos digitais. Após o anúncio na sexta-feira passada de que o Pentágono proibiu seus contratados de realizar qualquer atividade comercial com a Anthropic, a OpenAI anunciou algumas horas depois um novo acordo com o Departamento de Defesa para usar suas ferramentas de IA em sistemas de nuvem confidenciais. A Anthropic recusou-se a comentar. (Bloomberg)