Tudo sobre Google
Microsoft, Google e xAI, de Elon Musk, concordaram em fornecer ao governo dos Estados Unidos acesso antecipado a seus modelos mais avançados de inteligência artificial antes do lançamento público. A iniciativa faz parte de um novo acordo voltado à avaliação de possíveis riscos à segurança nacional.Continua após a publicidadeSegundo o Centro de Padrões e Inovação em IA (CAISI), ligado ao Departamento de Comércio dos EUA, a medida permitirá que autoridades analisem as capacidades desses sistemas com antecedência, conduzindo testes e pesquisas para identificar vulnerabilidades e potenciais usos indevidos.A decisão reflete uma preocupação crescente em Washington com o impacto de ferramentas de IA cada vez mais poderosas. O objetivo é detectar ameaças antes que esses modelos sejam disponibilizados publicamente, incluindo riscos relacionados a ciberataques ou aplicações militares.“A ciência da medição independente e rigorosa é essencial para a compreensão da IA de ponta e suas implicações para a segurança nacional”, afirmou Chris Fall, diretor do CAISI, em comunicado.O acordo amplia iniciativas anteriores firmadas com empresas como OpenAI e Anthropic em 2024, ainda durante o governo Biden, quando o órgão operava sob o nome de Instituto de Segurança da Inteligência Artificial dos EUA. Desde então, o centro se consolidou como o principal núcleo governamental para testes de modelos avançados, já tendo realizado mais de 40 avaliações (inclusive algumas envolvendo sistemas não lançados publicamente).De acordo com o próprio CAISI, os desenvolvedores frequentemente disponibilizam versões de seus modelos sem camadas de proteção, permitindo uma análise mais profunda sobre possíveis riscos.
Mesmo com a ascensão do Mythos, Anthropic ficou de fora do acordo – Imagem: Dragos Condrea/iStockEUA querem analisar riscos da IA antes do lançamentoO movimento ocorre em um momento de intensificação do debate sobre segurança envolvendo IA. Modelos recentes, como o Mythos, da Anthropic, têm chamado atenção por suas capacidades avançadas – incluindo potencial para amplificar habilidades de hackers, o que elevou o nível de alerta entre autoridades e empresas.Apesar de participar de acordos anteriores, a Anthropic não foi incluída em um anúncio recente do Pentágono, que fechou parcerias com sete empresas para usar tecnologias de IA em contextos militares. O Olhar Digital deu os detalhes aqui.
Contatadas pela agência Reuters, nem Microsoft nem xAI comentaram o acordo. O Google optou por não se pronunciar.
Vitoria Lopes Gomez
Vitoria Lopes Gomez é jornalista formada pela Universidade Estadual Paulista (UNESP) e redatora do Olhar Digital.
Ver todos os artigos →
