Acordo Internacional Define Diretrizes para Sistemas de Inteligência Artificial ‘Seguros por Design’” Um acordo elaborado por 18 países, incluindo os EUA e o Reino Unido, foi publicado para estabelecer orientações visando a criação de sistemas de inteligência artificial com foco em serem “seguros por design”. O documento, composto por 20 páginas, é apontado como a primeira iniciativa global para prevenir o uso mal-intencionado dessa tecnologia.
Apesar de não ser vinculativo, o acordo destaca recomendações gerais, como a monitorização dos sistemas de IA para evitar abusos, a proteção de dados contra tentativas de adulteração e a verificação de fornecedores de software.
“A abordagem prioriza direcionar os benefícios de segurança aos usuários, promove a transparência e a responsabilidade de forma significativa e estabelece estruturas organizacionais onde o design seguro é a principal prioridade”, declarou a Agência de Cibersegurança e Segurança de Infraestrutura dos EUA (CISA) em comunicado à imprensa.
Jen Easterly, diretora da CISA, afirmou à Reuters: “Esta é a primeira vez que vemos uma declaração de que essas características não devem ser apenas consideradas diferenciais”. Para ela, o acordo enfatiza que a segurança é uma parte fundamental do processo de design de sistemas de IA.
Alinhamento com Iniciativas Anteriores dos EUA Reforça Documento sobre Inteligência Artificial Segura.
O documento recentemente publicado está em sintonia com iniciativas anteriores dos Estados Unidos, incluindo a ordem executiva assinada pelo presidente Joe Biden em outubro.
Entre os pontos destacados estão estratégias para evitar invasões de hackers em plataformas de inteligência artificial e recomendações para a liberação de modelos apenas após a realização de testes de segurança adequados.
Contudo, o acordo não aborda questões cruciais, como os usos apropriados de ferramentas de IA ou a coleta de dados para o treinamento dos modelos, deixando esses temas sem tratamento explícito.
Documento foi assinado por 18 países
Abrangente Participação no Acordo Internacional de IA Inclui Países e Empresas de Destaque.
A lista completa de signatários do acordo inclui uma variedade de países: EUA, Austrália, Canadá, Nova Zelândia, Chile, República Tcheca, Estônia, França, Alemanha, Israel, Itália, Japão, Nigéria, Noruega, Polônia, Coreia do Sul e Singapura.
Além dos países, empresas e organizações também contribuíram para a redação do documento, incluindo gigantes como Amazon, Anthropic, Google, Hugging Face, IBM, Microsoft e OpenAI.