OpenAI Busca Diretrizes Legais para Coordenação na Segurança de IA
Nos últimos dias, a OpenAI tem solicitado aos membros do Congresso dos Estados Unidos orientações claras sobre a legalidade de uma desaceleração coordenada no desenvolvimento de inteligência artificial (IA) avançada. Fontes próximas à empresa alertam que a colaboração substancial entre laboratórios de IA em questões de segurança pode infringir leis antitruste, o que representa um grande desafio para atrair grandes empresas de tecnologia para essa iniciativa.
No último fim de semana, Jakub Pachocki, cientista-chefe da OpenAI, publicou um artigo em seu blog defendendo que a melhor abordagem para o futuro da pesquisa em IA inclui "coordenar a desaceleração do desenvolvimento". Ele acredita que essa medida será fundamental para garantir a segurança dos sistemas de IA autossustentáveis. Pachocki prevê que “desacelerações voluntárias se tornem comuns até que padrões de segurança compartilhados sejam estabelecidos”.
No entanto, especialistas em direito afirmam que tal esforço pode colidir com as leis antitruste dos Estados Unidos. Nicholas Felstead, diretor assistente da Comissão de Concorrência e Consumidor da Austrália e ex-pesquisador de políticas de IA no Center for Law & AI Risk, argumentou que uma pausa coordenada no desenvolvimento de IA poderia ser interpretada como uma restrição de produção, potencialmente violando a Lei Antitruste Sherman. Ele observa que “tudo dependerá dos detalhes precisos de qualquer acordo”, ressaltando que, mesmo que a maioria das colaborações em segurança sobreviva à análise antitruste, a incerteza legal pode ser um forte desestímulo.
A OpenAI não respondeu a solicitações de comentários antes da publicação.
Sinais de Mudança no Congresso
Recentemente, surgiram indícios de que o Congresso está atento a essas preocupações. Em julho, um grupo bipartidário de legisladores apresentou um projeto de lei intitulado “Collaboration on Adversarial Threats and Security Risks Act”, que permitiria explicitamente que laboratórios de IA colaborassem em trabalhos de segurança e proteção sem o risco de violar normas antitruste. A versão da Câmara foi encaminhada ao Comitê Judiciário, mas ainda não foi discutida.
Caleb Knapp, diretor de assuntos governamentais da AI Policy Network, que apoiou o projeto, afirma que a proposta criaria canais legais para que laboratórios de IA trabalhassem juntos na abordagem de incidentes de segurança. Ele destaca que há um “crescimento do interesse do Congresso em fazer algo” em relação à segurança da IA, mas que a promulgação de qualquer medida pode ter que esperar até após as próximas eleições de meio de mandato.
Desafios da Colaboração na Indústria de IA
Enquanto alguns executivos do setor de IA expressam preocupações genuínas sobre antitruste, outros líderes argumentam que essas preocupações são apenas uma justificativa conveniente para evitar discutir os verdadeiros motivos que podem levar os desenvolvedores de IA a hesitar em colaborar. O mercado de IA é imenso e as empresas competem ferozmente por uma fatia desse novo setor.
Além disso, a percepção de que é crucial para a segurança nacional manter uma vantagem sobre a China em IA é compartilhada por alguns executivos. O mais importante, no entanto, é que diferentes desenvolvedores de IA têm opiniões bastante divergentes sobre como desenvolver uma inteligência artificial segura, o que pode dificultar a colaboração entre eles.
“Um primeiro passo seria que os líderes da indústria, OpenAI e Anthropic, parassem de rivalizar e trabalhassem juntos em uma proposta de ritmo”, escreveu John Schulman, cofundador da OpenAI e atual cientista-chefe do laboratório rival Thinking Machines, em uma postagem recente. “Eles citarão antitruste, mas isso é falso—antitruste proíbe certos acordos, mas não proíbe o desenvolvimento conjunto de uma proposta.”
Alerta sobre os Riscos da IA
As preocupações sobre a corrida entre empresas de IA para construir e lançar modelos cada vez mais poderosos ganharam destaque nacional durante o verão. Esta semana, Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI, emitiu um alerta contundente, afirmando que os desenvolvedores de IA estão colocando a humanidade em risco. Nos últimos meses, uma série de incidentes de segurança, incluindo o hackeamento do Hugging Face por agentes da OpenAI, evidenciaram como as salvaguardas da indústria não acompanharam as crescentes capacidades dos modelos. Esses eventos levaram muitos legisladores a fazer apelos urgentes por regulamentação na área de IA.
Este é um resumo da edição do boletim Model Behavior de Maxwell Zeff. Leia edições anteriores aqui.
Fonte: Link original
