Microsoft e como a IA personalizada proporciona melhores respostas, redução de custos e inovação acelerada para sua empresa.

4045/Getty Images

Os modelos de linguagem grande, como o GPT-4, parecem conter toda a informação do universo conhecido, ou pelo menos o que os engenheiros conseguiram compilar da internet. Mas e se você quiser usar um modelo de linguagem (LLM) com dados proprietários da sua própria empresa, ou informações especializadas que não estão disponíveis publicamente na internet? É necessário construir um LLM do zero? Ou será que você deve utilizar um modelo pequeno, de código aberto e auto-hospedado que contenha apenas suas informações?

Na prática, é possível começar com um LLM como o GPT-4 e, a partir dele, desenvolver uma inteligência artificial personalizada. Neste artigo, um executivo da Microsoft discute como a empresa torna isso viável para seus clientes, os componentes envolvidos em um modelo personalizado, o processo completo e algumas melhores práticas.

ZDNET: Pode se apresentar e dar uma visão geral do seu papel na Microsoft e em sua plataforma de IA?

Executivo: Eu lidero a equipe de plataforma de IA na Microsoft. Nos últimos anos, o setor de IA passou por transformações incríveis. Entrei na empresa em 2009, na organização do Bing, e é impressionante ver a evolução desde então, já que grande parte da inovação em IA da Microsoft começou no Bing. Desenvolvemos a infraestrutura para treinar modelos de IA, experimentar e descobrir quais modelos performavam melhor. Toda essa infraestrutura resultou em componentes que agora oferecemos por meio do Azure AI Foundry. Através deste serviço, ajudamos empresas a acessar desde milhares de GPUs para a construção e treinamento de seus próprios modelos de IA até ferramentas necessárias para gerenciá-los, além de um catálogo de modelos de IA, sejam eles grandes ou pequenos, abertos ou na fronteira, em parceria com a OpenAI e outros fornecedores. Também fornecemos ferramentas para construir aplicações com esses modelos de IA, com uma ampla gama de capacidades necessárias para garantir um uso responsável. Meu time está focado em desenvolver o Azure AI Foundry de forma que inclua tudo o que um cliente ou desenvolvedor possa precisar para criar suas soluções de IA, facilitando a passagem da ideia à implementação de forma segura e confiável.

ZDNET: No ano passado, falamos sobre IA generativa. Agora, temos IA personalizada. O que isso significa e por que a IA generativa sozinha não é suficiente?

Executivo: Conforme as empresas começaram a implementar aplicações, a IA generativa e os modelos fundamentais proporcionaram bastante progresso. Contudo, muitas delas estão encontrando casos específicos em que os modelos básicos não respondem adequadamente. Assim, a IA personalizada permite que as empresas utilizem seus próprios dados para ajustar seu modelo central, buscando respostas de maior qualidade — e, em alguns casos, podem usar um modelo de custo mais baixo.

ZDNET: Quais são as principais vantagens da IA personalizada em relação às soluções generativas disponíveis no mercado?

Executivo: A qualidade e o custo são as duas principais vantagens. Com a IA personalizada, é possível melhorar a qualidade das respostas da sua aplicação identificando onde o modelo fundamental apresenta falhas e, em seguida, aprimorar as respostas. O ajuste fino também possibilita, em algumas situações, o uso de um modelo de menor custo para se obter uma qualidade similar à de um modelo mais caro.

ZDNET: Pode compartilhar exemplos de como empresas implementaram com sucesso soluções de IA personalizadas?

Executivo: A Microsoft utiliza amplamente essa técnica em nossa pilha tecnológica, atuando muitas vezes como nosso próprio “cliente zero”, o que nos permitiu experimentar, aprender e aperfeiçoar boas práticas. O GitHub Copilot e o Nuance DAX foram extensivamente ajustados e personalizados, com saídas de código especializadas e conhecimento na área de saúde. À medida que a qualidade dos resultados aumenta, a adoção também cresce. O DAX Copilot já ultrapassou dois milhões de encontros mensais entre médicos e pacientes, com um aumento de 54% no trimestre e é usado por instituições líderes como Mass General Brigham, Michigan Medicine e Vanderbilt University Medical Center. Ao ajustar para esses dados específicos, a solução consegue gerar um registro médico de forma mais eficaz, em vez de apenas resumir a conversa entre médico e paciente.

ZDNET: Que conselhos você daria para empresas que estão começando a jornada de personalização de IA?

Executivo: Eu geralmente incentivo as empresas a testarem seu caso de uso utilizando o modelo fundamental mais poderoso possível e, em seguida, a considerarem passos para melhorar a qualidade ou reduzir custos. A personalização é uma técnica para ambas as situações. Para isso, elas precisam ter utilizado sua aplicação o suficiente para identificar suas fraquezas potenciais, entender onde o modelo e os dados não estão respondendo como desejado, e iniciar a coleta desses dados para construir um repositório do que desejam que o modelo faça.

ZDNET: Quais são as implicações de custo envolvidas no desenvolvimento e na manutenção de soluções de IA personalizadas, e como as empresas podem otimizar seus investimentos?

Executivo: O custo do ajuste do modelo geralmente é relativamente modesto, mas representa um investimento importante, uma vez que existem também custos associados à coleta dos dados e ao treinamento do modelo. Os clientes precisam considerar a vida útil do modelo. Ao ajustar, sugerimos começar com um modelo fundamental (GPT-4 ou semelhante) para personalização. Quando surgir o próximo modelo de geração, você pode optar por “Vou manter meu modelo personalizado” ou “Vou re-personalizar o próximo modelo de geração”.

ZDNET: Quais são os obstáculos mais comuns que as organizações enfrentam ao implementar a IA personalizada e como podem superá-los?

Executivo: Para personalizar modelos, você precisa de dados que abordem onde deseja melhorias na sua aplicação. Ter dados gerais sobre o modelo provavelmente não levará sua implementação para o próximo nível. Você precisa de dados onde sua aplicação não está performando como esperado, assim poderá determinar maneiras de aprimorá-la. No passado, muitas empresas não estavam acostumadas a fazer isso, então é um novo músculo a ser desenvolvido. Embora existam ferramentas e técnicas para automatizar isso, muitas empresas não têm as pessoas capazes, por isso precisam investir no desenvolvimento dessas habilidades antes de tudo.

ZDNET: Quais considerações éticas as organizações devem ter em mente ao implantar IA personalizada?

Executivo: Não acredito que a IA personalizada traz novas considerações éticas. São basicamente as mesmas questões que devem ser ponderadas em relação à IA generativa. Trata-se de “Aqui está esta aplicação que desenvolvi. Como posso garantir que ela se comporta de maneira responsável para minha marca, para minhas aplicações e para as possíveis implicações de como essa aplicação será utilizada?”.

ZDNET: Como a Microsoft aborda preocupações relacionadas a preconceitos, equidade e transparência em modelos de IA personalizados?

Executivo: Atualmente, oferecemos mais de 30 ferramentas e 100 funcionalidades para ajudar nossos clientes, desenvolvedores e pesquisadores a construírem soluções de IA de forma responsável. Embora o Azure AI Content Safety esteja embutido por padrão em todos os modelos do catálogo do Azure AI Foundry, prevenir o uso indevido apenas no nível do modelo é quase impossível. Por isso, é imprescindível ter sistemas e ferramentas que ajudem a testar e monitorar cada etapa do processo, antes, durante e após a implantação. A Microsoft busca auxiliar os clientes em cada camada de mitigação de riscos de IA generativa.

ZDNET: Como o Azure Microsoft apoia as empresas na personalização de modelos de IA para suas necessidades específicas?

Executivo: Temos construído sistemas no Azure AI Foundry para simplificar esse processo. Existe o próprio serviço de ajuste fino e serviços de observabilidade que facilitam a coleta de dados sobre as aplicações, os quais podem ser usados para personalização.

ZDNET: Qual é o papel da IA de código aberto na personalização e escalabilidade das soluções de IA?

Executivo: Temos visto muitas inovações no espaço de modelos de código aberto, principalmente em pontos de preço mais baixos (e, portanto, qualidade inferior). Contudo, esses modelos de menor custo costumam ser bons pontos de partida, pois permitem que você teste e experimente para ver se consegue alcançar a qualidade de modelos de preço mais elevado. De modo geral, a inovação nesse espaço trouxe uma variedade de modelos para o catálogo do Azure AI Foundry, permitindo que os clientes avaliem e escolham o melhor para seu caso de uso.

ZDNET: Quais são as principais diferenças entre ajustar modelos de IA existentes e construir soluções de IA do zero?

Executivo: Construir seu próprio modelo do zero é extremamente caro, enquanto o ajuste fino é bastante viável para a maioria das aplicações. O custo seria a principal diferença. Contudo, se você estiver apenas desenvolvendo uma solução de IA padrão usando um modelo fundamental tradicional (e não um modelo personalizado), a principal diferença é que você poderá sacrificar a qualidade e/ou o preço, os dois principais fatores que você está tentando otimizar.

ZDNET: Que impacto você prevê que os copilotos de IA terão nas estratégias de IA empresarial?

Executivo: Modelos de linguagem grande mudaram a forma como os negócios operam em empresas, e vemos que isso continuará a se intensificar. Com nossos clientes, vemos cada vez mais a construção de aplicações que realizam tarefas por meio das pessoas e fazem o trabalho por elas, ao invés de apenas responder a perguntas. Essa mudança em direção a agentes de IA está em discussão. Agentes são as aplicações da era da IA. Todos os sistemas de negócios atuais serão reimaginados como agentes que atuam sobre um copiloto, transformando diversos processos empresariais.

ZDNET: Como as organizações devem equilibrar a automação da IA com supervisão humana para garantir os melhores resultados?

Executivo: Esta é uma questão crucial. Esses modelos fazem muitas coisas, mas não tudo bem. Garantir que compreendamos suas capacidades e que haja pessoas responsáveis pelo trabalho realizado deve ser uma parte essencial das políticas de IA responsável e uma parte fundamental de como recomendamos que as aplicações sejam construídas. O espírito das ferramentas de IA da Microsoft é avançar a agência humana, colocando o ser humano no centro e fundamentando-se em seu contexto. Estamos criando plataformas e ferramentas que, em vez de agir como um substituto para o esforço humano, podem ajudar os humanos em trabalhos cognitivos.

ZDNET: Se você pudesse oferecer uma dica fundamental para líderes empresariais que exploram IA personalizada, qual seria?

Executivo: À medida que aplicações de IA se tornam uma parte maior do portfólio de cada empresa, elas perderão oportunidades se não pensarem em sua estratégia de personalização para garantir as aplicações de mais alta qualidade e melhor desempenho ao melhor preço. Para as empresas que desejam começar hoje com IA personalizada, eu diria: Examine sua aplicação de IA generativa, identifique onde deseja melhorar, colete alguns dados e experimente.

ZDNET: Como você vê o futuro da IA evoluindo além da IA personalizada, e qual é a próxima grande mudança no horizonte?

Executivo: Nos últimos dois anos, construímos aplicações que sabem como usar seus dados para ajudar você a responder perguntas e, em seguida, fornecer uma resposta em texto. Acredito que passaremos os próximos dois anos desenvolvendo aplicações que desempenham parte do trabalho por você. Nesse cenário, você poderá atribuir tarefas e esperar que sejam concluídas, às vezes de forma autônoma, por meio de agentes, em vez de uma conversa síncrona. Contudo, os agentes são apenas uma aplicação do modelo de linguagem grande que você pode solicitar para realizar tarefas e ações. Dentro dessas aplicações, ainda haverá espaços onde modelos personalizados melhorarão a qualidade do sistema, mesmo quando o processamento ocorrer nos bastidores.

Você já explorou IA personalizada? E sua organização? Já considerou a personalização em larga escala da IA? Quais desafios ou oportunidades você vê na adaptação de modelos fundamentais aos seus próprios dados? Está pensando em ajustar modelos como o GPT-4 ou trabalhar com alternativas de código aberto? Que papel você acha que agentes e copilotos desempenharão na sua estratégia de negócios? Compartilhe suas opiniões nos comentários abaixo. Você pode acompanhar minhas atualizações diárias nas redes sociais.

Fonte: [Referência da matéria]