OpenAI Propõe Padrões Globais para a Inteligência Artificial: EUA na Liderança do Esforço Internacional
A OpenAI apresentou uma proposta ambiciosa para que os Estados Unidos liderem um esforço global na criação de padrões técnicos para sistemas de inteligência artificial (IA) avançada. A iniciativa, divulgada nesta segunda-feira (21), ocorre durante a Assembleia Geral das Nações Unidas e reflete a crescente preocupação mundial em acompanhar o rápido avanço das tecnologias de IA.
Com o desenvolvimento de sistemas capazes de aprimorar suas próprias capacidades, a OpenAI sugere a implementação de mecanismos que estabeleçam padrões nacionais e internacionais. Esses padrões visam facilitar a comparação de evidências, a avaliação de riscos e a resposta a incidentes relacionados à IA.
Aprimoramento Recursivo e Seus Desafios
Um dos pilares da proposta é o aprimoramento recursivo, no qual sistemas de IA assumem tarefas cada vez mais complexas no desenvolvimento de novas gerações de IA. A OpenAI destaca que, embora a automação das pesquisas possa ocorrer em diferentes níveis de supervisão humana, a busca por um RSI totalmente autônomo ainda não é segura e não deve ser priorizada sem controles adequados.
A empresa adverte que a falta de supervisão pode levar à perda de controle humano sobre o desenvolvimento da IA, tornando difícil entender os processos de pesquisa realizados por esses sistemas.
A Necessidade de Padrões Internacionais
A OpenAI argumenta que estabelecer padrões internacionais para a segurança e proteção de sistemas de IA é vital. A empresa identifica três desafios principais que justificam essa coordenação global:
- Fragmentação: Países podem adotar definições e requisitos incompatíveis.
- Ação Coletiva: A falta de colaboração pode resultar em consequências indesejadas.
- Capacidade Desigual: O conhecimento sobre IA é distribuído de maneira desigual entre as nações.
Para enfrentar esses desafios, a OpenAI propõe utilizar a rede de institutos nacionais de segurança em IA já existentes em países como Austrália, Canadá e Japão, que poderiam ajudar na definição de padrões por meio do Center for AI Standards and Innovation (CAISI).
Métricas e Comunicação de Incidentes
A proposta também inclui a criação de métricas e protocolos de comunicação para incidentes relacionados à IA. Entre os padrões sugeridos estão:
- Avaliação do progresso de sistemas de IA em relação ao RSI.
- Medição da quantidade de pesquisa autônoma realizada.
- Estabelecimento de regras para supervisão humana em pesquisas automatizadas.
A OpenAI enfatiza a importância de que governos e operadores de infraestrutura crítica estabeleçam canais seguros de comunicação para compartilhar informações sobre segurança nacional e vulnerabilidades.
Por que os EUA?
A OpenAI acredita que os Estados Unidos estão em uma posição privilegiada para liderar esse esforço, dada sua posição de destaque em setores como finanças, tecnologia e defesa. A liderança dos EUA na formulação de padrões globais pode ajudar a moldar um futuro mais coeso e seguro para o desenvolvimento da IA, evitando um sistema fragmentado e desigual.
Esse movimento se torna ainda mais relevante em um momento em que a discussão sobre a coordenação do desenvolvimento de sistemas avançados de IA está em alta. A OpenAI e outros líderes do setor buscam maneiras de garantir que a pesquisa e a aplicação da IA permaneçam à frente das capacidades tecnológicas, promovendo uma abordagem responsável e informada.
A proposta da OpenAI não apenas destaca a necessidade de colaboração internacional, mas também enfatiza a responsabilidade ética no desenvolvimento de uma tecnologia que cada vez mais molda o nosso mundo.
Fonte: Link original
