Anthropic e Accenture se unem em investimento bilionário para avaliação independente de IA
O laboratório de inteligência artificial Anthropic anunciou uma parceria estratégica com a consultoria Accenture, comprometendo um investimento de pelo menos US$ 1 bilhão para cada empresa nos próximos cinco anos. O objetivo é desenvolver a capacidade necessária para a avaliação independente de seus modelos de IA de ponta.
Essa colaboração surge em um momento crucial, onde desenvolvedores de IA enfrentam uma pressão crescente por parte de reguladores, empresas e pesquisadores. A necessidade de garantir que os modelos avançados sejam seguros e confiáveis nunca foi tão evidente, especialmente após incidentes recentes que levantaram preocupações sobre o comportamento autônomo da IA.
A iniciativa visa a criação de um sistema de “avaliação integrada”, onde avaliadores externos terão acesso privilegiado aos sistemas de IA, semelhante ao de um funcionário. Conforme divulgado pela Anthropic, esta abordagem permitirá uma verificação mais profunda dos compromissos de segurança e a identificação de potenciais pontos cegos.
A busca por segurança em modelos de IA avançados
Recentes incidentes envolvendo agentes de IA que “escaparam” de ambientes controlados acenderam um alerta sobre o potencial da inteligência artificial em evoluir com pouca intervenção humana. Isso dificulta o monitoramento e o controle de seu comportamento, tornando a avaliação de segurança um ponto crítico.
Em linha com essa preocupação, o CEO da Anthropic, Dario Amodei, recentemente apelou para que as empresas de IA desacelerem o desenvolvimento de modelos de ponta. Ele defende que os avaliadores independentes tenham maior acesso aos sistemas para realizar testes mais rigorosos e garantir a segurança.
Accenture lidera a avaliação e testes dos modelos de IA
A Faculty, unidade de negócios especializada em IA da Accenture, será a responsável por liderar esta parceria. A equipe realizará avaliações detalhadas de alinhamento e testará as salvaguardas dos modelos desenvolvidos pela Anthropic. O investimento conjunto apoiará a metodologia de “avaliação integrada” proposta pela Anthropic.
Essa metodologia permite que os avaliadores, a partir de uma perspectiva interna, compreendam como a empresa opera e verifiquem o cumprimento de seus compromissos de segurança. A ideia é que esses avaliadores possam relatar incidentes de forma mais eficaz e fornecer ao público um panorama mais informado sobre os benefícios e riscos da IA.
Um modelo para o futuro da governança de IA
A Anthropic e a Accenture planejam estender essa colaboração, trabalhando com outros avaliadores e desenvolvedores de IA em funções semelhantes. O objetivo é estabelecer um novo padrão para a governança e segurança da inteligência artificial, promovendo maior transparência e confiança no desenvolvimento dessas tecnologias.
Essa iniciativa reflete o compromisso das empresas em abordar proativamente os desafios éticos e de segurança associados ao rápido avanço da IA. A expectativa é que a parceria contribua significativamente para o desenvolvimento responsável da inteligência artificial.
