Três tendências de IA que se destacaram no SXSW e como podem guiá-lo em 2025

Embora a tecnologia de IA capaz de dominar o mundo pertença mais à ficção científica, a inteligência artificial existente pode cometer erros, como produzir alucinações, treinar-se com dados alheios e utilizar o trabalho de outras pessoas para criar novos conteúdos. Como essas falhas se relacionam com a rápida adoção de IA? Essa questão foi amplamente discutida no SXSW, onde a maioria das sessões sobre IA abordou a questão da segurança. Líderes de empresas como IBM, Meta, Microsoft e Adobe compartilharam suas percepções sobre o futuro da IA, chegando a um consenso: nem tudo é tão sombrio.

“AI precisa de um agente de PR melhor; tudo o que aprendemos vem da ficção científica”, afirmou uma das faladoras sobre o assunto. “Achamos que a IA vai assumir nossas vidas; esse não é seu propósito.” Independentemente do painel, os executivos de algumas das maiores empresas de tecnologia em IA discutiram três temas principais sobre como a segurança e a responsabilidade se encaixam no futuro dessa tecnologia. O que disseram pode ajudar a acalmar suas preocupações.

1. O caso de uso é importante
Não há como negar que os sistemas de IA têm suas falhas, frequentemente criando respostas enviesadas. Isso gera preocupações sobre a introdução desses sistemas no ambiente de trabalho, podendo ocasionar erros em processos internos e impactar negativamente funcionários, clientes e metas comerciais. A chave para atenuar esse problema é pensar cuidadosamente sobre quais tarefas você delega à IA. Por exemplo, a diretora de IA responsável na Microsoft busca casos de uso que se alinhem com o que a tecnologia pode realizar atualmente.

“É importante ter a ferramenta certa para o trabalho, portanto, não deveríamos usar IA para todas as aplicações”, disse ela. “Existem casos em que talvez nunca devêssemos usar IA.” Uma das áreas problemáticas mencionadas é a utilização de IA em processos de contratação, já que estudos demonstram que a tecnologia pode favorecer nacionalidades, formações acadêmicas e gêneros de forma enviesada. Em resposta, a IBM decidiu parar de utilizar agentes de IA para filtrar e selecionar candidatos, optando por usar um agente que ajuda a combinar candidatos a funções potenciais.

“Ressalto a importância de garantir que qualquer que seja o uso da IA esteja alinhado com a cultura e os objetivos da empresa”, comentou um executivo de recursos humanos da IBM. Embora a IA consiga realizar muitas tarefas, isso não significa que ela deveria fazê-lo indiscriminadamente. Compreender as limitações e forças da tecnologia é fundamental para garantir que os usuários obtenham os melhores resultados ao implementar IA e evitem armadilhas.

2. Os humanos continuam essenciais
À medida que os sistemas de IA se tornam mais inteligentes e autônomos, a preocupação com o possível impacto negativo na força de trabalho, tornando os humanos mais substituíveis, é natural. No entanto, os líderes empresariais concordam que, mesmo que a IA transforme o trabalho como o conhecemos, isso não significa que substituirá completamente os seres humanos.

“A IA permite que as pessoas façam mais do que faziam antes, não necessariamente uma substituição total”, comentou uma executiva de segurança em IA generativa. “Alguns empregos serão substituídos? Sim, mas assim como com qualquer outra tecnologia, como a internet, veremos o surgimento de novas oportunidades e as pessoas usando essa tecnologia para realizar suas tarefas de maneira diferente.”

Líderes e especialistas frequentemente discutiram as semelhanças entre a IA e outras tecnologias transformacionais, como a internet, pois possuem muitas características em comum. Por exemplo, assim como a internet reduziu o tempo gasto em bibliotecas, novas IAs de pesquisa profunda podem agora realizar horas de pesquisa em minutos. “Pense nisso como e-mail, telefones celulares ou a internet – a IA é uma ferramenta, uma plataforma, e todos os empregos foram transformados por isso”, disse um dos líderes presentes na conferência.

3. A confiança do usuário será um dos maiores desafios
Ao abordar os obstáculos ao desenvolvimento da IA, normalmente, as questões consideradas envolvem o desenvolvimento técnico dos modelos de IA, como torná-los mais seguros, rápidos e econômicos. No entanto, uma parte importante dessa discussão frequentemente é deixada de lado: a percepção do consumidor. No SXSW, o papel do consumidor foi amplamente debatido, pois, em última análise, esses modelos só serão úteis e transformadores se as pessoas confiarem o suficiente neles para experimentá-los.

“A IA é tão confiável quanto as pessoas a consideram – se você não confia, ela não tem utilidade; se você confia, pode começar a adotá-la”, explicou uma lider de confiança e segurança. Tecnologias transformadoras, como a internet, a nuvem ou até mesmo as calculadoras, enfrentaram hesitação quando foram introduzidas. Um dos palestrantes usou o exemplo do cartão de débito para ilustrar esta ideia, lembrando que, quando foi lançado, muitos se preocuparam com a segurança de seus fundos.

“Com cada nova tecnologia, há uma reação inicial por parte dos responsáveis pela política, do mercado e dos consumidores, e essa reação é geralmente baseada em medo”, acrescentou o especialista. Para superar esse desafio, as empresas precisam ser transparentes sobre seus modelos, como foram treinados, políticas de segurança e muito mais. Já há esforços em andamento nesse sentido, com mais empresas incluindo cartões de modelo em seus lançamentos.

Referência: https://www.zdnet.com/article/sxsw-2023-leaders-discuss-ai-safety-and-responsibility-in-the-future-of-work/