Os perigos de ignorar a ética em IA e a maneira correta de implementá-la.

Quase 80 anos atrás, em julho de 1945, MH Hasham Premji fundou a Western India Vegetable Products Limited em Amalner, uma cidade localizada no distrito de Jalgaon, em Maharashtra, Índia, às margens do rio Bori. A empresa iniciou suas atividades como fabricante de óleos de cozinha.

Na década de 1970, a companhia fez uma mudança estratégica e passou a atuar na área de Tecnologia da Informação, alterando seu nome para Wipro. Com o passar do tempo, a empresa se tornou uma das maiores do setor tecnológico da Índia, operando em 167 países, com cerca de 250 mil funcionários e uma receita superior a 10 bilhões de dólares. Atualmente, a liderança da companhia está a cargo de Rishad Premji, neto do fundador original.

Hoje, a Wipro se apresenta como um “fornecedor global de transformação de TI, consultoria e serviços de processos de negócios” de ponta a ponta. Em uma entrevista exclusiva, conversamos com Kiran Minnasandram, Vice-Presidente e CTO da Wipro FullStride Cloud. Ele é responsável por iniciativas tecnológicas estratégicas e pela criação de soluções voltadas para o futuro. Seu principal papel é estimular a inovação e capacitar as organizações por meio de soluções avançadas. Focado em computação em nuvem, ele projeta e implementa arquiteturas baseadas em nuvem que transformam as operações comerciais, otimizando processos, aumentando a escalabilidade e promovendo flexibilidade para impulsionar os clientes em suas jornadas digitais.

Como era de se esperar, a inteligência artificial se tornou um foco importante para a empresa. Nesta entrevista, tivemos a chance de discutir a relevância da ética da IA e da sustentabilidade em relação ao futuro da TI. Vamos aos detalhes.

ZDNET: Como você define IA ética e por que isso é crucial para os negócios atualmente?
Kiran Minnasandram: A IA ética não se limita a cumprir a legislação, mas também se alinha aos valores que temos em alta consideração na Wipro. Tudo o que fazemos é baseado em quatro pilares. A IA deve estar em conformidade com nossos princípios relacionados ao indivíduo (privacidade e dignidade), à sociedade (justiça, transparência e agência humana) e ao meio ambiente. O quarto pilar é a solidez técnica, que abrange conformidade legal, segurança e robustez.

ZDNET: Por que muitas empresas enfrentam dificuldades com a ética da IA e quais são os principais riscos que devem abordar?
KM: A dificuldade geralmente surge da falta de um vocabulário comum em torno da IA. Por isso, o primeiro passo é estabelecer uma estratégia organizacional cruzada que una as equipes técnicas e os departamentos jurídico e de recursos humanos. A IA é transformadora e requer uma abordagem corporativa. Em segundo lugar, as organizações precisam compreender quais são os princípios fundamentais de sua abordagem em relação à IA. Isso vai além das obrigações legais e abrange os valores que desejam representar.

Em terceiro lugar, elas podem desenvolver uma taxonomia de riscos com base nas ameaças que preveem. Os riscos estão relacionados à conformidade legal, segurança e impacto sobre a força de trabalho.

ZDNET: Como a adoção da IA impacta os objetivos de sustentabilidade corporativa, tanto positivamente quanto negativamente?
KM: A adoção da IA já teve, e continuará a ter, um impacto significativo nos objetivos de sustentabilidade corporativa. Positivamente, a IA pode aumentar a eficiência operacional, otimizando cadeias de suprimentos e melhorando a gestão de recursos por meio de um monitoramento mais preciso do consumo de energia e carbono, além de aprimorar os processos de coleta de dados para relatórios regulatórios. Por exemplo, empresas de manufatura ou logística podem usar IA para otimizar rotas de transporte, resultando em menores emissões de carbono.

Por outro lado, o desenvolvimento e a implementação rápidos da IA estão levando a um aumento no consumo de energia e nas emissões de carbono, bem como a um uso considerável de água para resfriar os data centers. Treinar grandes modelos de IA exige um poder computacional significativo, resultando em uma maior pegada de carbono.

ZDNET: Como as empresas devem equilibrar a busca pela inovação em IA com a responsabilidade ambiental?
KM: Como ponto de partida, as empresas precisam estabelecer políticas, princípios e diretrizes claras sobre o uso sustentável da IA. Isso cria uma base para decisões relacionadas à inovação em IA e permite que as equipes façam as escolhas adequadas sobre o tipo de infraestrutura, modelos e algoritmos de IA que irão adotar. Além disso, as empresas precisam criar sistemas para acompanhar, medir e monitorar o impacto ambiental do uso da IA e exigir isso de seus fornecedores de serviços. Trabalhamos com clientes para avaliar políticas atuais de IA, envolver partes interessadas internas e externas e desenvolver novos princípios sobre IA e meio ambiente antes de treinar e educar funcionários de várias funções para incorporar essa mentalidade nos processos diários.

Ao promover mais transparência e responsabilidade, as empresas podem impulsionar uma inovação significativa em IA enquanto mantêm sua consciência sobre os compromissos ambientais. Vários grupos intersetoriais e entre partes interessadas estão sendo formados para auxiliar as empresas a explorar os dilemas ambientais, requisitos de medição e impactos associados à inovação em IA. Diante de uma agenda que se move incrivelmente rápido, aprender com os outros e colaborar em um cenário global é crucial. A Wipro tem liderado diversos esforços globais colaborativos sobre IA e meio ambiente ao lado de nossos clientes, e estamos bem posicionados para ajudar nossos clientes a navegar pelo panorama regulatório.

ZDNET: Como as regulamentações globais estão evoluindo para abordar preocupações éticas relacionadas à IA e à sustentabilidade?
KM: A IA nunca existiu isoladamente. Legislações sobre privacidade, proteção do consumidor, segurança e direitos humanos se aplicam à IA. De fato, os reguladores de proteção de dados desempenham um papel fundamental na proteção dos indivíduos contra os danos que a IA pode causar. A proteção ao consumidor é fundamental quando se trata de precificação algorítmica, por exemplo, e a legislação anti-discriminação pode apoiar casos de discriminação algorítmica. É muito importante que as organizações compreendam como a legislação existente se aplica à IA e capacitem sua força de trabalho sobre como incorporar proteção legal, privacidade e segurança na adoção da IA.

Além da legislação existente, algumas leis específicas sobre IA estão sendo promulgadas. Na Europa, o Ato de IA da UE regula a comercialização de produtos de IA. Quanto mais arriscado for o produto, mais controles serão necessários em torno dele. Nos Estados Unidos, estados individuais estão legislando sobre IA, principalmente no contexto da gestão de mão de obra, que é uma das áreas mais complexas da implementação da IA.

ZDNET: Quais são os maiores equívocos sobre ética e sustentabilidade da IA, e como as empresas podem superá-los?
KM: O maior equívoco é que é desafiador reunir inovação e responsabilidade. A realidade é que a IA responsável é a chave para desbloquear o progresso da IA, pois proporciona inovação sustentável a longo prazo.

Em última análise, empresas e consumidores escolherão os produtos em que confiam. Portanto, a confiança é a base para a implementação da IA. Empresas que unirem inovação e confiança terão uma vantagem competitiva.

ZDNET: Como a Wipro FullStride Cloud apoia as empresas na alinhar a IA com os objetivos ESG (ambientais, sociais e de governança)?
KM: Começamos desenvolvendo frameworks de IA responsável que garantem justiça, transparência e responsabilidade dentro dos modelos de IA. Também utilizamos a IA para rastrear e relatar métricas ESG, além de iniciativas de Green AI, como ferramentas para medir e reduzir a pegada de carbono da IA.

No lado da infraestrutura, trabalhamos com clientes para otimizar cargas de trabalho e fazer um uso mais eficiente em termos de energia de data centers. Também desenvolvemos soluções de IA específicas para setores como saúde, finanças e manufatura para atender aos objetivos ESG.

ZDNET: Quais são os métodos mais eficazes pelos quais soluções em nuvem podem reduzir a pegada ambiental da IA?
KM: Soluções em nuvem podem contribuir para data centers energeticamente eficientes ao usar fontes renováveis, otimizar o resfriamento e incorporar computação ciente do carbono. A otimização de modelos de IA também é viável por meio de técnicas menos intensivas em energia, como aprendizado federado e poda de modelos.

Você pode alinhar recursos mais de perto com a demanda usando soluções sem servidor e de autoescalonamento para evitar excesso de provisionamento. Provedores de nuvem agora oferecem painéis de rastreamento e relatórios de carbono, permitindo medir e otimizar sua pegada. Com a computação em nuvem multi e edge, você pode ainda reduzir o movimento de dados e processar a IA mais próximo da fonte.

ZDNET: Como a infraestrutura em nuvem pode ser aproveitada para incorporar considerações éticas no desenvolvimento da IA?
KM: A infraestrutura em nuvem oferece ferramentas poderosas para ajudar a incorporar considerações éticas no desenvolvimento da IA. Kits de ferramentas de ética da IA embutidos podem apoiar a detecção de viés e testes de justiça, identificando desequilíbrios nos dados e modelos de treinamento. Plataformas em nuvem também oferecem ferramentas de treinamento cientes da diversidade para ajudar a garantir que os conjuntos de dados sejam representativos e inclusivos, fatores críticos para o desenvolvimento de sistemas de IA responsáveis.

Você também pode aproveitar frameworks de IA baseados em nuvem que oferecem recursos de explicabilidade e transparência para entender melhor como os modelos tomam decisões. O desenvolvimento seguro e que preserva a privacidade da IA é suportado por capacidades como privacidade diferencial e processamento criptografado, garantindo um tratamento responsável de dados de ponta a ponta. Serviços em nuvem podem ainda apoiar a IA ética por meio de monitoramento automatizado de conformidade, ajudando a garantir adesão a regulamentações como GDPR e CCPA. Ferramentas para teste de deriva de modelo e detecção de alucinação também estão disponíveis, facilitando o monitoramento contínuo do desempenho do modelo e sinalização de saídas imprecisas ou não confiáveis ao longo do tempo.

ZDNET: Por que algumas organizações têm dificuldade em medir o impacto de sustentabilidade da IA e como as ferramentas baseadas em nuvem podem ajudar?
KM: Muitas organizações enfrentam dificuldades em medir o impacto de sustentabilidade da IA devido à ausência de métricas padronizadas. Sem um framework universal para quantificar os efeitos ambientais, torna-se complicado avaliar o progresso ou comparar iniciativas. Ferramentas baseadas em nuvem podem ajudar a preencher essa lacuna oferecendo painéis e modelos personalizáveis que rastreiam a emissão de carbono em todo o ciclo de vida da IA, desde o desenvolvimento até a implementação.

O monitoramento em tempo real apresenta outro desafio, já que o consumo de energia associado a cargas de trabalho de IA pode variar drasticamente. Métodos de relatórios estáticos muitas vezes não capturam essas variações. Plataformas em nuvem podem fornecer ferramentas de rastreamento dinâmico e em tempo real que se ajustam a cargas de trabalho em mudança, proporcionando uma visão mais precisa do uso de energia. Além disso, a visibilidade fragmentada de dados em ambientes de nuvem, locais e edge complica as avaliações de sustentabilidade. Soluções nativas de nuvem podem agregar dados de diversas fontes em uma única visão, melhorando a transparência e a tomada de decisões. Alguns dos custos ambientais da IA permanecem ocultos e se estendem além do treinamento, incluindo inferência, armazenamento e escalonamento computacional. Ferramentas em nuvem podem trazer à tona esses impactos menos conhecidos, analisando padrões de uso de ponta a ponta. Lacunas de conformidade e regulação também adicionam complexidade, especialmente à medida que os requisitos de relato ESG variam por região. Serviços em nuvem podem ajudar a gerenciar isso automatizando o rastreamento de conformidade específico por região. Finalmente, análises baseadas em nuvem podem ajudar a navegar pelas compensações entre custo, desempenho do modelo e sustentabilidade, oferecendo insights que suportam um desenvolvimento de IA mais equilibrado e responsável.

ZDNET: Quais passos concretos as organizações podem tomar para melhorar a transparência e a responsabilidade na IA?
KM: Primeiro, treine a força de trabalho para usar a IA de maneira responsável. Incentive os funcionários a implantar IA em um espaço seguro, questionando e interrogando suas decisões. Em segundo lugar, estabeleça uma estrutura de governança para a IA, abrangendo todos os aspectos do negócio, desde compras a recursos humanos, CISO e gerenciamento de riscos.

ZDNET: Como o viés na IA emerge e qual o papel das estruturas baseadas em nuvem na mitigação desse viés?
KM: O viés na IA pode surgir de várias fontes, incluindo dados de treinamento algorítmicos que não são representativos ou que contêm preconceitos históricos, assim como erros e inconsistências em conjuntos de dados rotulados por humanos. Se treinada com dados inadequados, as decisões da IA podem ser distorcidas com base em estruturas éticas culturais, corporativas ou sociais, resultando em resultados inconsistentes. Modelos de IA legados treinados com suposições desatualizadas e dados históricos podem continuar a perpetuar viés do passado. A IA também pode ter dificuldades com dialetos diversos, contextos regionais ou nuances culturais. Estruturas baseadas em nuvem podem ajudar a mitigar isso monitorando a conformidade com diversas regulamentações regionais e assegurando o desenvolvimento justo de modelos de IA por meio de validações em diversos grupos econômicos, sociais e demográficos. Processos de treinamento adaptáveis baseados em nuvem também podem reequilibrar conjuntos de dados para prevenir viéses de dinâmica de poder.

ZDNET: Quais estratégias de governança as empresas devem implementar para garantir o uso responsável da IA?
KM: O mais importante é ter um framework de governança. Algumas organizações podem ter uma estrutura de governança de IA separada, enquanto outras (como a nossa) a integram dentro de seu constructo de governança existente. É crucial envolver todos os setores da organização. Avaliações de impacto da IA são ferramentas úteis para incorporar proteção legal, privacidade e robustez na implementação da IA desde sua fase de concepção.

E você, o que pensa sobre a crescente ênfase em IA ética e sustentável? Sua organização implementou frameworks ou políticas para garantir o desenvolvimento responsável da IA? Como você está abordando o impacto ambiental das cargas de trabalho de IA e está utilizando ferramentas em nuvem para ajudar a medir ou reduzir essa pegada? Acredita que as regulamentações globais estão acompanhando a inovação em IA, ou as empresas estão sendo deixadas para navegar sozinhas nas áreas cinzentas? Deixe-nos saber nos comentários abaixo.

Referência: https://www.zdnet.com/article/ai-ethics-and-sustainability-are-becoming-inextricably-linked/