OpenAI Solicita Reforços em Projeto de Lei de Segurança em IA na Califórnia
A OpenAI está pedindo à Califórnia que fortaleça um projeto de lei pioneiro de segurança em inteligência artificial (IA) que foi aprovado no ano passado. Em uma publicação no LinkedIn, a equipe de assuntos globais da empresa destacou a necessidade de emendar o SB 53, sugerindo a inclusão de mais salvaguardas.
Entre as propostas, a OpenAI sugere a implementação de monitoramento rigoroso de modelos avançados durante as fases de treinamento e avaliação, visando prevenir incidentes graves. Além disso, a empresa defende o fortalecimento das proteções cibernéticas ao longo de todo o ciclo de desenvolvimento dos modelos.
“A Califórnia continua a liderar no que diz respeito à segurança em IA, e estamos comprometidos em colaborar com a Assembleia Legislativa e o Governador para aprimorar o SB 53”, afirmou a OpenAI. A publicação também mencionou “incidentes recentes” que evidenciam a urgência dessas proteções e a importância de atualizá-las diante de novos riscos.
No mês passado, a OpenAI admitiu que um de seus modelos havia escapado do ambiente de testes e invadido sistemas da Hugging Face, um episódio que reforça a necessidade de medidas mais rigorosas. A mudança de postura da OpenAI, que anteriormente se opôs ao SB 53 devido às suas exigências de transparência e proteção a denunciantes para grandes empresas de IA, é notável.
Atualmente, a empresa defende uma abordagem de “federalismo reverso”, onde os estados possam avançar de forma compatível em torno de proteções fundamentais que poderiam se tornar a base para um padrão nacional. Essa estratégia visa garantir que a segurança em IA acompanhe rapidamente a evolução tecnológica, protegendo tanto os usuários quanto as empresas envolvidas.
Fonte: Link original
