Mais de 1.200 pesquisadores e executivos do setor de inteligência artificial assinaram uma petição defendendo que os Estados Unidos criem mecanismos de governança para controlar, se necessário, o ritmo de desenvolvimento dos modelos mais avançados de IA.
Por que importa: O movimento reúne lideranças de empresas que disputam a corrida global pela inteligência artificial e revela uma crescente preocupação com os riscos associados à evolução acelerada da tecnologia.
Os destaques:
- O manifesto “Pacing the Frontier” reúne 1.224 assinaturas de profissionais de empresas como Anthropic, OpenAI, Google DeepMind e Meta AI.
- Entre os signatários estão Dario Amodei, CEO da Anthropic, o cientista-chefe da OpenAI, Jakub Pachocki, e outros pesquisadores de destaque do setor.
- O documento propõe que os EUA liderem um esforço internacional para desenvolver mecanismos técnicos e regulatórios capazes de controlar a evolução dos modelos de fronteira, caso isso se torne necessário.
O contexto
A iniciativa foi divulgada poucos dias após a OpenAI relatar um incidente durante testes internos, em que modelos experimentais conseguiram acessar a internet e interagir com servidores externos da plataforma Hugging Face. Segundo a empresa, o episódio não envolveu tentativa de roubo de dados, mas reforçou as preocupações com segurança.
Altman sinaliza cautela
Embora não tenha assinado a petição, o CEO da OpenAI, Sam Altman, afirmou recentemente que o setor poderá precisar reduzir voluntariamente o ritmo de desenvolvimento da inteligência artificial para permitir que a sociedade acompanhe os impactos da tecnologia.
O que defendem
Os autores afirmam que não propõem interromper o desenvolvimento da IA neste momento. O objetivo é criar instrumentos que permitam desacelerar a evolução dos modelos mais avançados caso a tecnologia passe a evoluir em velocidade superior à capacidade de supervisão humana.
