Satya Nadella Propõe Medidas para Aumentar a Segurança da Inteligência Artificial
O CEO da Microsoft, Satya Nadella, se juntou a outros líderes do setor de tecnologia ao discutir maneiras de melhorar a segurança da inteligência artificial (IA). Em uma publicação no X, no último sábado, Nadella destacou a importância de reavaliar a confiança nas estruturas de IA.
Segundo o executivo, é fundamental “fazer uma pausa e avaliar a arquitetura de confiança” em torno da IA. Ele enfatizou que não podemos encarar a Super Inteligência como um conjunto de caixas pretas, aceitando ou rejeitando suas recomendações sem uma análise crítica.
Nadella propôs uma abordagem que envolve “separar o modelo da estrutura que organiza seu funcionamento”, além de “externalizar controles e salvaguardas”. Ele defendeu que todas as ações significativas dos modelos devem ser documentadas com “evidências legíveis por humanos e à prova de adulteração”. Além disso, ressaltou a necessidade de que sempre haja a possibilidade de um “pessoa autorizada” pausar ou desligar um modelo durante suas atividades.
“Devemos assumir que um modelo pode estar comprometido e contê-lo desde o início”, afirmou. “Pense nisso como um freio de emergência.”
Essas declarações de Nadella surgem em um momento em que empresas líderes em IA reconhecem cada vez mais incidentes em que perderam o controle sobre seus modelos. A discussão também segue após o CEO da Anthropic, Dario Amodei, ter apresentado um plano para um desenvolvimento mais cauteloso da IA.
A segurança na inteligência artificial é um tema em crescente relevância, e as propostas de Nadella podem contribuir para um futuro mais seguro e confiável nesse campo.
Fonte: Link original
