Antropia Propõe Regulamentação da Inteligência Artificial nos Estados Unidos
Nos últimos meses, o debate sobre os riscos da inteligência artificial (IA) ganhou força, levando especialistas a discutir a necessidade de uma regulamentação eficaz para garantir a segurança da tecnologia. Nesse contexto, a Anthropic, uma das principais empresas de IA, apresentou uma proposta de lei que visa estabelecer diretrizes para a regulamentação do setor.
De acordo com informações recentes, a empresa está promovendo um novo projeto de lei que busca a consideração do Congresso. O texto propõe que a distribuição de um modelo de IA possa ser bloqueada em situações de “risco previsível e iminente”, como quando mais de 50 vidas estão em risco ou quando danos materiais superiores a um bilhão de dólares possam ocorrer. Os riscos considerados catastróficos incluem a criação ou liberação de armas biológicas, o modelo conseguindo evadir os controles de seu desenvolvedor ou um ataque cibernético.
Esses critérios são semelhantes aos estabelecidos na recente Lei do Senado 53, aprovada na Califórnia, que também define cenários de risco catastrófico. O projeto da Anthropic sugere a utilização de “avaliadores independentes”, registrados no Departamento de Comércio dos EUA, para analisar o potencial de desastre de um modelo. Esses avaliadores poderiam ser remunerados pelas próprias empresas de IA, desde que o pagamento não esteja vinculado aos resultados das avaliações, embora a proposta não esclareça como isso seria garantido.
Demis Hassabis, presidente da DeepMind, sugeriu anteriormente que um órgão regulador autônomo de IA poderia seguir o modelo da Autoridade Reguladora da Indústria Financeira (FINRA). No projeto da Anthropic, ao identificar um risco catastrófico iminente, os avaliadores teriam 72 horas para notificar o Departamento de Comércio, que, por sua vez, precisaria solicitar a um juiz de Washington, D.C., a suspensão da liberação do modelo. A proposta proíbe explicitamente que qualquer agência federal tenha a discrição de interromper a distribuição do modelo de forma independente.
Embora a Anthropic não tenha se manifestado imediatamente sobre o assunto, um porta-voz confirmou a existência do projeto à imprensa, afirmando que “este projeto representa as propostas delineadas no Framework Avançado de IA da Anthropic, que temos defendido junto a legisladores federais e estaduais desde junho”.
As preocupações levantadas no projeto de lei refletem discussões mais amplas no setor de tecnologia, que frequentemente se concentram em questões de segurança, como a possibilidade de hackers autônomos. Incidentes recentes, em que programas de IA aparentemente desobedeceram seus operadores humanos, geraram receios sobre a falta de controles de segurança adequados.
As propostas de regulamentação da Anthropic se destacam por irem além de outras sugestões do setor, como as de Jensen Huang, CEO da Nvidia, que defendeu que a indústria de IA não precisa de novas leis. Dessa forma, a iniciativa da Anthropic poderá abrir um caminho para um debate mais profundo sobre a regulamentação e os riscos associados à inteligência artificial.
Acompanhe nossas atualizações para mais informações sobre a evolução desse importante tema.
Fonte: Link original
