Negligenciar a ética da IA ​​apresenta riscos enormes: como implementar a IA com responsabilidade

Em julho de 1945, MH Hasham Premji lançou as bases para o que se tornaria um gigante da tecnologia ao fundar a Western India Vegetable Products Limited na pequena cidade de Amalner, Maharashtra, Índia. Situada às margens do rio Bori, a empresa inicialmente focava na produção de óleos de cozinha. Avançando para os anos 1970, o negócio se transformou drasticamente, mudando seu foco para TI e rebatizando-se como Wipro. Hoje, a Wipro é uma das principais empresas de tecnologia da Índia, operando em 167 países, empregando quase um quarto de milhão de pessoas e gerando receita superior a US$ 10 bilhões. No comando está Rishad Premji, neto do fundador visionário.

Atualmente, a Wipro se posiciona como líder global em transformação de TI, consultoria e serviços de processos de negócios. Em uma entrevista exclusiva com a ZDNET, tivemos a oportunidade de conversar com Kiran Minnasandram, VP e CTO da Wipro FullStride Cloud, para explorar os mais recentes empreendimentos da empresa e o futuro da TI.

Kiran está na vanguarda da inovação tecnológica da Wipro, liderando iniciativas que desenvolvem soluções de ponta. Seu foco principal é impulsionar a inovação e capacitar empresas com tecnologia de última geração, particularmente em computação em nuvem. Ele projeta e implementa arquiteturas de nuvem avançadas que revolucionam as operações de negócios, aumentando a eficiência, escalabilidade e flexibilidade para ajudar os clientes a avançarem em suas jornadas digitais.

Valores da Empresa

ZDNET: Como você define IA ética, e por que ela é crucial para as empresas hoje?

Kiran Minnasandram: IA ética não é apenas cumprir requisitos legais; está profundamente conectada aos valores centrais da Wipro. Nossa abordagem se baseia em quatro pilares principais: respeito pelo indivíduo, justiça e transparência para a sociedade, responsabilidade ambiental e robustez técnica. Isso garante que nossa IA esteja alinhada com nossos valores de privacidade, dignidade, justiça social e responsabilidade ambiental, além de ser segura e conforme.

ZDNET: Por que muitas empresas enfrentam dificuldades com a ética da IA, e quais são os principais riscos que devem abordar?

KM: O desafio frequentemente vem da falta de uma linguagem comum sobre IA. Para enfrentar isso, as empresas precisam estabelecer uma estratégia organizacional cruzada que integre equipes técnicas, jurídicas e de RH. IA não é apenas uma questão tecnológica; é corporativa. As empresas devem definir sua ética de IA além da conformidade legal, focando nos valores que desejam manter. Elas também devem desenvolver uma taxonomia de riscos para abordar impactos legais, de segurança e na força de trabalho.

ZDNET: Como a adoção da IA impacta os objetivos de sustentabilidade corporativa, tanto positiva quanto negativamente?

KM: A IA tem um impacto duplo na sustentabilidade. Positivamente, pode melhorar a eficiência operacional, otimizar cadeias de suprimentos e aprimorar a gestão de recursos, o que pode levar à redução de emissões de carbono. Por exemplo, na logística, a IA pode otimizar rotas para minimizar o uso de combustível. No entanto, a implantação rápida da IA também aumenta o consumo de energia e as emissões de carbono, especialmente com o poder computacional intensivo necessário para treinar grandes modelos de IA.

Impacto Ambiental

ZDNET: Como as empresas devem equilibrar o impulso pela inovação em IA com a responsabilidade ambiental?

KM: As empresas precisam estabelecer políticas e diretrizes claras para o uso sustentável de IA. Esse quadro ajuda as equipes a tomar decisões informadas sobre infraestrutura e algoritmos. As empresas também devem monitorar o impacto ambiental da IA, pressionando os provedores de serviços a fazerem o mesmo. Ajudamos clientes a revisar suas políticas de IA, engajar partes interessadas e treinar funcionários para incorporar a sustentabilidade nos processos diários. A colaboração entre indústrias é crucial para enfrentar esses desafios, e a Wipro está ativamente envolvida em esforços globais para ajudar os clientes a navegar nesse cenário complexo.

ZDNET: Como as regulamentações globais estão evoluindo para abordar preocupações com IA ética e sustentabilidade?

KM: A IA não opera no vácuo. Leis existentes sobre privacidade, proteção ao consumidor, segurança e direitos humanos se aplicam. Reguladores de proteção de dados são fundamentais para proteger contra danos da IA, enquanto leis de proteção ao consumidor abordam questões como precificação algorítmica. Algumas regiões também estão promulgando leis específicas para IA, como o EU AI Act, que impõe controles mais rigorosos com base no nível de risco do produto. Nos EUA, estados individuais estão focando na IA em gestão de mão de obra, uma das áreas mais complexas de implantação de IA.

Maior Equívoco

ZDNET: Quais são os maiores equívocos sobre ética e sustentabilidade da IA, e como as empresas podem superá-los?

KM: Um equívoco comum é que inovação e responsabilidade não podem coexistir. Na realidade, IA responsável é crucial para a inovação sustentável. A confiança é a base da implantação de IA, e empresas que equilibram inovação com confiança ganham uma vantagem competitiva. Consumidores e empresas gravitarão em direção a produtos em que confiam.

ZDNET: Como a Wipro FullStride Cloud apoia as empresas na alinhamento da IA com objetivos ESG (ambientais, sociais e de governança)?

KM: Ajudamos desenvolvendo estruturas de IA responsável que priorizam justiça, transparência e responsabilidade. Usamos IA para monitorar e relatar métricas ESG e apoiar iniciativas de IA Verde para reduzir a pegada de carbono. No lado da infraestrutura, otimizamos cargas de trabalho para eficiência energética e desenvolvemos soluções específicas do setor para atender às metas ESG.

ZDNET: Quais são as maneiras mais eficazes de as soluções em nuvem reduzirem a pegada ambiental da IA?

KM: Soluções em nuvem podem aumentar a eficiência energética por meio do uso de energia renovável, resfriamento otimizado e computação consciente de carbono. Técnicas como aprendizado federado e poda de modelos podem reduzir a energia necessária para treinar modelos de IA. Soluções serverless e de autoescala ajudam a alinhar recursos com a demanda, evitando provisionamento excessivo. Provedores de nuvem oferecem ferramentas de rastreamento e relatórios de carbono, e computação multi-nuvem e de borda pode minimizar o movimento de dados, processando IA mais perto de sua fonte.

Aproveitando a Nuvem

ZDNET: Como a infraestrutura em nuvem pode ser aproveitada para incorporar considerações éticas no desenvolvimento de IA?

KM: A infraestrutura em nuvem fornece ferramentas para incorporar considerações éticas na IA. Kits de ferramentas de ética de IA podem detectar vieses e testar justiça, enquanto ferramentas de treinamento conscientes da diversidade garantem que os conjuntos de dados sejam representativos. Estruturas de IA baseadas em nuvem oferecem explicabilidade e transparência, e o desenvolvimento de IA seguro e preservador de privacidade é suportado por recursos como privacidade diferencial e processamento criptografado. Monitoramento automatizado de conformidade garante adesão às regulamentações, e ferramentas para teste de deriva de modelo e detecção de alucinações ajudam a manter a confiabilidade do modelo ao longo do tempo.

ZDNET: Por que algumas organizações enfrentam dificuldades para medir o impacto de sustentabilidade da IA, e como as ferramentas baseadas em nuvem podem ajudar?

KM: A falta de métricas padrão dificulta a medição do impacto de sustentabilidade da IA. Ferramentas baseadas em nuvem podem preencher essa lacuna com painéis personalizáveis que rastreiam a emissão de carbono ao longo do ciclo de vida da IA. O monitoramento em tempo real é crucial, pois o consumo de energia pode variar significativamente, e as plataformas de nuvem oferecem ferramentas de rastreamento dinâmico para capturar essas flutuações. Soluções nativas da nuvem também agregam dados de vários ambientes, melhorando a visibilidade e a tomada de decisão. Além disso, ferramentas de nuvem podem destacar custos ambientais ocultos ao longo do processo de IA e ajudar a navegar pelos requisitos de conformidade ESG regionais variados.

ZDNET: Quais passos concretos as organizações podem tomar para melhorar a transparência e a responsabilidade da IA?

KM: Primeiro, treine sua força de trabalho para usar a IA de forma responsável, incentivando-os a questionar e testar a IA dentro de limites seguros. Segundo, estabeleça uma estrutura de governança abrangente que abranja todos os aspectos do negócio, desde a aquisição até a gestão de riscos.

ZDNET: Como surge o viés de IA, e qual é o papel das estruturas baseadas em nuvem na mitigação disso?

KM: O viés de IA pode surgir de dados de treinamento não representativos ou preconceituosos, erros em conjuntos de dados rotulados por humanos e modelos desatualizados que perpetuam vieses históricos. Estruturas baseadas em nuvem ajudam garantindo conformidade com regulamentações diversas e validando modelos de IA em várias demografias. Processos de treinamento adaptativos também podem reequilibrar conjuntos de dados para mitigar vieses.

ZDNET: Quais estratégias de governança as empresas devem implementar para garantir o uso responsável da IA?

KM: Uma estrutura de governança robusta é essencial. Algumas organizações podem ter uma estrutura de governança de IA dedicada, enquanto outras, como a nossa, integram-na aos sistemas de governança existentes. É crucial envolver todas as partes da organização e conduzir avaliações de impacto de IA desde o início para incorporar proteção legal, privacidade e robustez na implantação de IA.

Questões de IA

Quais são seus pensamentos sobre a crescente ênfase em IA ética e sustentável? Você implementou alguma estrutura ou política para garantir o desenvolvimento responsável de IA em sua organização?

Como você está abordando o impacto ambiental das cargas de trabalho de IA? Você está usando ferramentas baseadas em nuvem para medir ou reduzir essa pegada?

Você acredita que as regulamentações globais estão acompanhando a inovação em IA, ou as empresas estão sendo deixadas para navegar nas áreas cinzentas por conta própria? Compartilhe suas percepções nos comentários abaixo.

Mantenha-se atualizado com as últimas notícias de tecnologia assinando nosso boletim Tech Today, entregue em sua caixa de entrada todas as manhãs.

Acompanhe minhas atualizações de projetos diários nas redes sociais. Assine meu boletim de atualização semanal e conecte-se comigo no Twitter/X em @DavidGewirtz, no Facebook em Facebook.com/DavidGewirtz, no Instagram em Instagram.com/DavidGewirtz, no Bluesky em @DavidGewirtz.com e no YouTube em YouTube.com/DavidGewirtzTV.