Anthropic aparentemente removeu de seu site os compromissos da era Biden relacionados à criação de uma IA segura. A mudança foi inicialmente destacada por um monitor de IA conhecido como The Midas Project, sendo que a linguagem foi excluída na semana passada do hub de transparência da Anthropic, onde a empresa lista seus “compromissos voluntários” sobre o desenvolvimento responsável de inteligência artificial. Embora não sejam vinculativos, os termos deletados prometiam compartilhar informações e pesquisas sobre os riscos da IA, incluindo vieses, com o governo.
Assim como outras grandes empresas de tecnologia — incluindo OpenAI, Google e Meta — a Anthropic aderiu a um acordo voluntário de autorregulação em julho de 2023, como parte das iniciativas de segurança em IA da administração Biden, muitas das quais foram posteriormente codificadas na ordem executiva de IA de Biden. As empresas se comprometeram a seguir certos padrões para testar a segurança dos modelos antes do lançamento, marcar conteúdos gerados por IA e desenvolver infraestrutura de privacidade de dados. Posteriormente, a Anthropic concordou em colaborar com o Instituto de Segurança em IA (criado sob essa ordem) para realizar muitas das mesmas prioridades. No entanto, a administração Trump deve dissolver o Instituto, deixando suas iniciativas em uma situação incerta.
A Anthropic não anunciou publicamente a remoção do compromisso de seu site e afirma que suas posições existentes sobre IA responsável não estão relacionadas aos acordos da era Biden, ou mesmo são anteriores a eles. A mudança é a mais recente em uma série de desenvolvimentos no setor público e privado em torno da IA, muitos dos quais afetam o futuro da segurança e da regulação da IA sob a administração Trump. No primeiro dia no cargo, Trump reverteu a ordem executiva de Biden e já demitiu vários especialistas em IA do governo, além de cortar alguns fundos de pesquisa. Essas mudanças parecem ter iniciado uma mudança de tom em várias grandes empresas de IA, algumas das quais estão aproveitando a oportunidade para expandir seus contratos governamentais e trabalhar de perto com o governo na definição de uma política de IA ainda incerta sob Trump. Empresas como Google estão alterando definições já flexíveis de IA responsável, por exemplo.
De maneira geral, o governo perdeu ou está prestes a perder grande parte da já limitada regulação de IA criada durante a administração Biden, e as empresas aparentemente têm ainda menos incentivos externos para impor controles em seus sistemas ou responder a um terceiro. Verificações de segurança para viés e discriminação não parecem estar incluídas até agora nas comunicações de Trump sobre IA.
Fonte: https://www.theverge.com/2023/10/17/23924765/anthropic-biden-era-ai-commitments-removed-website
Posts relacionados:
Open AI e Anthropic convidam cientistas dos EUA para experimentar modelos de ponta
Prepare-se: A era dos ‘desenvolvedores cidadãos’ criando aplicativos chegou, graças à IA
Sabia que este aspirador robô era especial apenas algumas horas após testá-lo – veja o motivo
Cansado de esperar pela nova versão da assistente de voz? Experimente esses assistentes de IA avançados no seu iPhone hoje mesmo.
